Meinung zu Künstlicher Intelligenz

Einspruch, Euer Ehren! :slight_smile:

Es gibt nicht einmal den leisesten Hinweis darauf, daß eine Maschine – und auch keine Turingmaschine – “sich selbst als Person, als eigenständiges Wesen wahrnehmen” könnte. Zum einen ist das logisch sowieso unmöglich (vgl. dazu, was Sartre zum präreflexiven Cogito in **L’*être et le néant *ausführt), also dahingehend, daß sich niemand, der über Bewußtsein verfügt, “selbst wahrnehmen” könnte – vielmehr ist das Selbstbewußtsein (SB) irreflexiv und hat folglich keinen Objekt-Status, sondern ist unmittelbar gegeben, sonst gäbe es kein SB, weil es einen infiniten Regreß der Selbstbegründung anheimfiele; zum anderen aber ist ein SB für Maschinen auch deshalb (nach bisherigem Wissen) unmöglich, weil der von dir beschriebene kindliche Weltzugang nur unter der conditio sine qua non funktioniert, daß eine Lebenswelt “je schon” (Habermas) aufgespannt ist und sie dem infantilen Bewußtsein (Bw) durch Sprachspiele (Wittgenstein) vorstrukturiert wird. Das Kind vermag diese Vorstrukturierung zu “echoen”, weil es dazu sowohl biologisch wie auch “geistig” prädisponiert ist, also kurz gesagt: weil es sprechen und denken lernen kann (daß es dieses Vermögen hat, steht außer Zweifel, auch wenn wir nicht wissen, wieso das möglich ist, also was genau diese Anlage ausmacht [vgl. dazu etwa die Diskussionen zwischen der Chomsky-Schule und ihren Gegnern]).

Versteht sich ein Kind als Person (dazu muß es u.a. einen regelkonformen Gebrauch von ‘ich’ machen können), liegt unabdingbar reflektierter Sprachgebrauch vor, also u.a. auch die Fähigkeit, zu gegebenen Signifikanten die dazugehörigen Signifikate hinzutreten zu lassen (vulgär ausgedrückt: Zeichengebrauch pflegen, also “etwas für etwas stehen lassen” zu können). – Wie sollte eine Maschine das machen?! Seit wann können Maschinen Zeichen (oder Symbole) gebrauchen? – Würde dieser Einlassung entgegengehalten, daß etwa ein Computer doch Zeichen emittiere, so wäre zu fragen, ob der Proponent einer solchen These überhaupt verstanden habe, was ein Zeichen ist! Denn natürlich werfen Maschinen niemals Zeichen [sic] aus, sondern erzeugen aufgrund logarithmischer Operationen Signifikantenketten, die, nach allem, was bisher dazu bekannt ist, ausschließlich für Menschen zu Zeichen werden, nämlich dann, wenn sie vor dem jeweiligen Sprachspielhintergrund, der gerade relevant ist, mit entsprechenden Signifikaten assoziiert werden! – Triviales Beispiel: Du läßt dir über diverse Operationen in einer Excel-Tabelle die Einnahmen aus deinen diesjährigen Buchverkäufen ausgeben. Jene Summe, die dabei im Ergebnisfeld erscheint (genauso wie jede Einzeleinnahme, die du darin listest), ist doch nun aber weder “für den Computer”, auf dem das Programm läuft, noch “für die Software” ein Geldbetrag, mit dem du z.B. einen Urlaub finanzieren kannst, sondern für diese Maschine und das Programm ist das rein gar nichts, weil sie nicht über (mentale) Zustände vertfügen, die eine Rede vom “für sich” in irgendeiner Weise rechtfertigen würden. Wir plappern nur so daher und lassen uns von falschem Sprachgebrauch kirre machen, was inzwischen, besonders unter unreflektierten KI-Heinis, zur Bildung von Mythologien geführt hat, die freilich bei genauerem Hinsehen keinerlei fundamentum in re haben! Einer Glühbirne, die bei Schalterumlegung Licht emittiert, spricht ja schließlich auch niemand (außer ein paar ganz Irren wie der inzwischen offenbar völlig merkbefreite Daniel Dennett) “ein Bw davon” zu, jetzt gerade (selbst) zu leuchten …

Die Welt – als u.a. sprachlich immer schon vorherlaufend ausgelegte (in diversen Lebensformen) – ermöglicht es in der Ontogenese dem Menschen, sich seiner selbst auch als Person bewußt zu werden, also auf’s je Eigene reflektieren zu können. Dazu ist es allerdings erforderlich, daß der Mensch, das jeweilige konkrete Kind, immer schon und von Anfang an (sogar bereits im Mutterleib) “mit sich selbst unreflektiert vertraut ist”, ergo unmittelbares SB hat (z.B. bei Schmerzempfindungen, wozu es keines “Wissens” – in Form von Gedanken darüber – vom Schmerz bedarf). Saul Aaron Kripke (der derzeit wohl begabteste Logiker unter der Sonne – eine lebende Legende im Bereich der* Analytischen Philosophie* und innovativer Wittgenstein-Interpret) hat bereits in den Siebzigern [sic] gezeigt, daß ‘Schmerz’ ein sog. rigid designator ist und deshalb niemals mit irgendwelchen ZNS-Zuständen identisch sein kann (wie die Hirn-Mythologien behaupten), sondern einen genuinen Bw-Zustand markiert, übrigens nicht nur bei Menschen, sondern auch bei bw-fähigen Tieren. Angesichts dessen: Wo und wie wären derlei mentale Zustände bei Maschinen instantiiert? Wenn es sie gäbe: Wieso merken wir nichts davon? – Bei den menschlichen Alter Egos bemerken wir sie doch auch! Wären dann digitale Bw-Maschinen vollständige Solipsisten? Aber wie könnte ein solipstistischer Bw-Träger je zu sprechen lernen? Wie also bspw. je auch ‘ich’ zu sich sagen können? Hier tauchen lauter Fragen auf, die unreflektierte Fürsprecher (v.a. aus der Hardcore-KI-Szene) von Maschinenbewußtsein seit jeher ausblenden und dann munter daherschwadronieren. Im Verständnis eines reflektierten Zuganges zur Materie ist das aber alles nur BlaBla, weil die Bedingungen der Möglichkeit von Bw dabei ganz einfach unter den Tisch fallen …
Deshalb nochmals die Frage: Wie sollte angesichts all dessen, also der Lebenswelt, der Sprache, der Lebendigkeitsvoraussetzung usw. bei BW-Zuständen und bei der unabdingbaren Voraussetzung von anderen kompetenten Sprechern, also Alter Egos, eine Maschine von [n]irgendwo Bw … ähm … hernehmen? Wie würde ein Computer X “bermerken können”, daß Computer Y ein “Alter Ego” für ihn ist? Und erst recht: Wie würde ihm bemerklich werden, daß z.B. ein Mensch für ihn ein Alter Ego wäre?

Wittgenstein PU § 119: “Die Ergebnisse der Philosophie sind die Entdeckung irgendeines schlichten Unsinns und die Beulen, die sich der Verstand beim Anrennen an die Grenze der Sprache geholt hat. Sie, die Beulen, lassen uns den Wert jener Entdeckung erkennen.”

Viele Grüße

2 „Gefällt mir“

Ja, ich glaube, das wird bei der ganzen Diskussion häufig vergessen. Roboter sind nur so gut oder böse wie sie von Menschen programmiert werden.

LG
CarmenP

2025

1 „Gefällt mir“

Da musst Du Dich aber ranhalten, das fertigzukriegen, damit es noch als Science Fiction gilt. Sonst ist es schon fast ein historischer Roman … :smiley:

Ich dachte an ein ähnliches Fehlverhalten wie Westworld. Da verhalten sich die Roboter eben nicht wie programmiert.

Ich hatte erst nach Absenden meines Beitrags gesehen, dass Du 2025 meinst. Das ist in 5 Jahren und aus meiner Sicht eindeutig zu früh, um sich über die von Dir gestellten Fragen Gedanken zu machen. Den dafür erforderlichen “Bewusstseinssprung” bekommen Pflegeroboter bis dahin nicht hin.

Pepper ist zwar niedlich, bei genauer Betrachtung aber nur ein Spielzeug zur Bespaßung von Senioren. Realistischer wären für 2025 eher Fehler, die daraus resultieren, dass zwei Pflegeroboter genau das tun, auf das sie programmiert sind und zwar ohne Rücksicht auf Verluste.

Das befürchte ich auch.

Das auf jeden Fall. Ich wollte aber vielleicht noch 1 Schritt weiter gehen.

1 „Gefällt mir“

Da bin ich gespannt :slight_smile:

Du gehts von einem Menschen aus, von seinem Wesen. Die Maschine hat im Grunde nur zwei Zustände: “Start” und “Stop”. Dazwischen ‘lebt’ sie nur für ihren Zweck, die STOP-Bedingung zu erreichen.
Während Menschen, mit ihren Gefühlen beschäftigt sind, sich ablenken lassen, bleibt die Maschine ein Streber. Sie strebt in Richtung der STOP-Bedingung und damit verschwendet sie keine Energie für andere Dinge.
Sie kann winzig sein und dennoch jedem Menschen überlegen.

Ein triviales Beispiel: vor mehr als 20 Jahren, war ich Student und Praktikant bei einem Konzern. Man hatte dort das Problem, Teile aus einem Stück Rohstoff herauszu…arbeiten (fräsen, sägen, lasern, etc.). Hierfür gab es einen Planer, dessen Aufgabe es war, sich zu überlegen, wie viele Teile, auf wie viele verschiedene Arten aus einem Rechteck mit vorgegebenen Massen herausgearbeitet werden könnten. Das war sein Job.

Meine Aufhabe war, eine simple Software, für denselben Zweck zu schreiben. Letztlich wurde es ein Makro in Excel. Ich wußte nichts von KI, von benötigter sog. linearer Optimierung uvm. Habe das Problem auf einfache Geometrie zurückgeführt und wenige Formeln eingebaut.

Wenige Wochen später wurde fast die gesamte Produktion umgestellt, auf der Grundlage der Erkenntnisse aus meinem Programm. Die Software hat Kombinationen gefunden, für die der menschliche Planer zu träge war, um sie zu verfolgen. Die Software kann schneller und exakter und wird nie faul.

Zweites Beispiel: man hat vor einer Weile zwei KI-Netze miteinander verknüpft, um mal zu schauen, was passiert. Die Ergebnisse des einen Netztes wanderten ins Zweite ein und umgekehrt. Man hat die Netze ‘kommunizieren’ lassen. Bis man nach einer Weile feststellen mußte, daß man ihre Kommunikation nicht verstand. Die Software hat alle überflüssigen Komponenten der Kommunikation optimiert, bis sie für den Menschen nicht mehr verständlich war. Die Maschine sucht nicht nach den ‘vermissten’ Teilen, sondern entfernt unnötige. Das ist in unserem Leben der Job eines Designers.
Das macht der menschliche Körper übrigens auch mit sich selbst, um die Energie zu sparen. Wenn Du längere Zeit im Bett liegen bleibst, werden unbenutzte Muskelmassen abgebaut und in Eiweiß verwandelt und ausgeschieden. Nach einer Weile kannst Du kaum gehen und aus dem Bett aufstehen. Der menschliche Körper ist eine Maschine, aber irrtümlicherweise glaubt jeder, sie verstanden zu haben. Das tun nur die Experten, die Ärzte und Therapeuten.

Drittes Beispiel: die guten, alten King-Fu-Filme. Oft redet man dort von sog. Meistern. Das ist jemand, der eine Kampfkunstart beherrscht, wie niemand sonst. Die Grundlage dieser Künste ist eine Bewegung des Körpers, die zur Perfektion eingeübt wurde. Ein Meister ist ein Spezialist gewisser Bewegungen. Selbst Bruce Lee meinte, er fürchte einen, der eine gewisse Bewegung tausende Male eingeübt hat. Es geht also um eine Spezialisierung. Man erfindet nicht immer etwas, was man vermißt. Das Internet hat niemand vermißt, niemand hatten davon eine Ahnung und Vorstellung, bis es da war.

Was aber müsste vorhanden sein, damit ein eigenständiges Denken erfolgen kann?
Es geht um die Kommunikation, selbst die Pilze und die Bäume tun das, aber die Menschen verstehen nicht alles.

3 „Gefällt mir“

Steile These, an der sich sehr viel des Gesagten aufhängt - und die leider unbelegt bleibt.

Ich bin erschlagen. Je mehr Input ich bekomme, desto weniger komme ich weiter. Mein interner Filter klappt da irgendwie momentan nicht.

Dann versuch’s zwischendurch mal mit Brainstorming. Alles aufschreiben, was Dir durch den Kopf geht und dabei locker werden, und anschließend die Goldkörnchen heraussieben. Und dabei auf Dein Bauchgefühl hören. Welche Idee gefällt mir? Wozu fällt mir noch mehr ein? In der Richtung weitermachen!

LG
Pamina

Ich hab schon mehrere, vollgestopfte Denkbretter, die ausgedruckt bei uns im Flur hängen. Und da sind wiederum handschriftliche Notizen drauf. Immer, wenn ich da vorbeikomme, entdecke ich, dass ich dann doch was Anderes geschrieben habe.

Hallo Suse,

das kenne ich auch. Irgendwie will ich eine Idee immer weiter optimieren, bis sie am Ende perfekt ist. Und ich komme zu keinem Schluss, weil ich immer denke, es könnte noch etwas besser sein oder ich hätte etwas Wichtiges übersehen.

In einem Zitat von Mark Twain heißt es ‚Tanze, als würde niemand zusehen … Singe, als ob dich niemand höre …‘. Ich ergänze diese Lebensweisheiten gerne mit ‚Schreibe, als würde es niemand lesen‘. Das hilft mir nicht immer, aber gelegentlich eben doch.

Zuerst versuche ich, alles, was ich zu einem Thema bereits gesammelt habe, zu verdrängen. Dann erzähle ich die Geschichte bei einem realen Gläschen Wein einem imaginären Freund: „Neulich war ich doch im Krankenhaus und stell dir vor, da kamen diese beiden Pflegebots in mein Zimmer und haben darüber diskutiert, wie man…“.

Wie andere schon geschrieben haben, ist im Moment dein Problem die Zeit. In nicht mal fünf Jahren, wird es wohl kaum anders aussehen als heute oder vor fünf Jahren. Ich bezweifle, dass es bis 2025 bereits so etwas wie Pflegeroboter geben wird. Und wenn, werden sie eher aussehen wie die Saug- oder Mähroboter, die es bereits zu kaufen gibt. Sie werden vielleicht Medikamente zu den Patienten bringen können, aber Diagnosen stellen oder gar Streitgespräche führen werden sie nicht.

Was spricht dagegen, nochmal hundert Jahre draufzulegen? Du bist die Autorin, du kannst deine Figuren sterben lassen, also kannst du auch an der Uhr drehen. Sollte das möglich sein, spricht natürlich nichts dagegen, dass deine künstlichen Intelligenzen sich menschlich verhalten. Schließlich konnte sich bereits Eliza 1966 mitfühlend äußern. Und was in hundert Jahren ist, weiß niemand. Du kannst also alles behaupten.

Muss deine Geschichte aber zwangsläufig in naher Zukunft spielen, könnten sich vielleicht zwei Krankenschwestern über die Pflegeroboter streiten oder ihre Ängste darüber äußern, ob sie ihnen bald ihre Arbeit wegnehmen werden. Sie könnten aber auch dem Pflegeroboter die Schuld zuweisen, dass er ein falsches Medikament gebracht hat. Vielleicht passt so ein Ansatz in deine Story.

Liebe Grüße
ThAchi

2 „Gefällt mir“

Ich finde es erschreckender, wenn es schon bald passiert.

2084 nach George Orwell´s 1984.
2Q84 nach Murakami.

1 „Gefällt mir“

Ich denke, es erschreckt weniger Leser, wenn es so bald passieren soll, da dies unrealistisch ist. Dann würde ich wenigstens 50 Jahre draufpacken …

LG
Pamina

1 „Gefällt mir“

Wie mathies dachte ich an Georg Orwell, als ich von deinem Dilemma las. Der 1948 vollendete Roman erhielt den Titel 1984, da viele Dinge noch zu futuristisch erschienen für die damalige Zeit, obwohl sie dem Zeitgeist entsprechend, bereits durchaus denkbar waren. Teilweise haben sich Beschreibungen bewahrheitet, teilweise auch nicht, nicht einmal bis heute.

Mir stellen sich aber noch ein paar Fragen. Möchtest du denn deine Leser erschrecken oder erschreckt dich das Thema selbst und du willst dein eigenes Uncanny Valley auf den Leser transponieren? Willst du das Thema eher wissenschaftlich betrachten oder symbolisierend? Soll es sich eher um Androiden oder Roboter handeln? Und stellen diese das zentrale Element in deiner Geschichte dar, um das sich alles dreht?

Außerdem denke ich, dass man hier sehr auf die Begrifflichkeiten achten sollte. HAL ist ein Computer. Roboter lösen heutzutage kaum noch Unbehagen aus. In der Industrie werden seit Jahrzehnten Roboter eingesetzt. Kaum ein Auto wird heute nicht von Robotern gebaut und in großen Lagern fahren auch nur noch Roboter herum. Selbst zu Hause haben wir seit langem Roboter im Einsatz, oft, ohne es zu bemerken. Wer wundert sich heutzutage noch, wenn in einem Hochhaus der Fensterreinigungsroboter vorbeifährt? Oder im Wohnzimmer der Saugroboter seine Kreise zieht? Auch Künstliche Intelligenz verschreckt an sich kaum noch jemanden, denn jeder Bot ist eine KI. Rufst du also beispielsweise bei deiner Versicherung an, meldet sich in der Regel die KI, die dich dann gegebenenfalls mit einem Menschen verbindet. Auch hinter den Sprechblasen auf Webseiten ‚Haben Sie Fragen, jetzt chatten‘ verbergen sich kaum noch Menschen, sondern oft nur Computerprogramme. Und jede Art von Sprachbedienung ist nichts weiter als ein Bot.

Etwas anderes sind Androiden, also menschenähnliche Roboter. Würdest du deinem Saugroboter einen Tritt geben, wenn er sich irgendwo festgefahren hat? Würdest du es auch tun, wenn der Saugroboter wie ein menschliches Wesen aussieht und sich mit dir unterhält? Es ist die gleiche technische Maschine, sie unterscheidet sich nur in ihrer Entwicklungsstufe.

Naja, jetzt wird es philosophisch, aber vielleicht war der eine oder andere Denkanstoß dabei.

Liebe Grüße
ThAchi

Hi, dann steige ich einmal spät ein.

**Literarisch **gesehen ist natürlich Alles erlaubt. Da ich die Technik hinter der KI kenne und verstehe, würdest Du Jemanden wie mich mit den 3 Punkten nicht abholen (streiten, Schuld zuweisen, Gerechtigkeit) … denn es sind (weitere) Vermenschlichungen einer strunzdummen Technik. Wurde übrigens bereits lang und breit von verschiedensten Interessensträgern diskutiert.

Um das zu beleuchten ein kurzer Blick in die **Entwicklungsgeschichte **der KI. Angefangen hat es in den frühen 19-hunderter Jahren, nachdem die ersten Nervenzellen mikroskopiert wurden. Prompt kamen die ersten Ideen, so etwas technisch nachzubilden: einzelne Zellen (Neuronen) sind komplett vernetzt (neuronales Netz) und liefern ein oder mehrere Ausgangssignale. Einfach und überzeugend, damals ergänzt mit ein paar Hilfestellungen aus Erkenntnissen der Wahrnehmung von Katzen und dem Aufbau ihrer Augen als Nervennetz.

Nun gibt es nur ein einfaches technisches Problem: Jedes Neuron ist im Grunde so etwas wie ein SUMMENPRODUKT(Spalte-1; … Spalte-n) in Excel, mit einer nicht-linearen Stutzfunktion am Ausgang. Einige Spalten sind Eingangssignale, andere sind Zahlenwerte, die die Stärke jeder Netzverbindung beschreibt. SO VIELE Konstanten, und welche sind nun “die richtigen Werte”? Faszinierend immerhin: So ein System ist hochgradig flexibel … es kann nahezu alles beschreiben.

Und so kam der Begriff “lernen” oder “trainieren” in die KI-Welt … und wenn man’s hört, dann ist das doch “klar”: so ein neuronales Netzt ist doch genau wie ich, ich lerne ja auch … (uups … Strunzdummes vermenschlicht … und wieder ein “logischer” Kurz-Schluss). // Viele andere KI-Ansätze lasse ich hier unter den Tisch fallen, aber die wesentlcihen Eigenschaften bleiben.

Lange Rede kurzer Sinn: Die meisten dieser KI-Ansätze laufen auf etwas Einfaches und dem technisch Bewanderten Wohlvertrautes hinaus … Filter. Komplex, hochgradig nichtlinear, nicht-stetig, manchmal chaotisch, kaum nachzuvollziehen … So ein Dingens macht aus Eingangssignalen (Helligkeiten, Kursverläufe, Bildsequenzen, …) Ausgangssignale (“das ist eine Katze (also kein Fisch, kein Wurm …)”, “jetzt verkaufen”, “das ist ein Sozialunverträglicher in Shanghai” usw.) … mit allen Konsequenzen, die Filter nun einmal so haben (Irrtum, Übertragbarkeit, Prognose …).

Noch ein kleiner Exkurs zur **Namensgebung **“KI”. Es überrascht kaum, dass die KI ihren Anfang als AI im Land der unbegrenzten Möglichkeiten nahm. Die oben erwähnte technische Nachbildung des biologischen Vorbildes hieß dort “Artificial Intelligence”, im Sinne von “artificial, artifiziell, nachgebildet”. Man wusste also um die Grenzen. … Aber Geldgeber fahren auf selbstdenkende Maschinen ab … und so wurde auch im Deutschen aus der getreu übersetzten “gekünstelten Intelligenz” … die unterstellte “Künstliche Intelligenz”, mit einer gewissen Umkehr von Ursache und Wirkung.

Vom technischen Ballast befreit kann doch nun Jede und Jeder vortrefflichstenst über KI schwadronieren … Märkte, Reichtum, was kann man damit nicht alles erreichen.

Nur der kleine Techniker, der an der sagenhaften KI-Maschine herumschrauben muss, denkt sich sinngemäß: “wenn Ihr wüsstet, wieviel Aufwand da hineingeht, nur um ein beeindruckendes Ergebnis in einer mehr oder weniger kontrollierten Situation zu erhalten … und das wollt Ihr auf die Gesellschaften loslassen? - Ich bin dann 'mal weg …”

Überspitzt, um die **Magie **etwas zu entzaubern: KI steht eigentlich für “Keine Intelligenz”. Denn die sitzt noch bis auf Weiteres vor der Tastatur (besagter armer Ingenieur oder Techniker). “Strunzdumm” wird noch lange strunzdumm bleiben. Und wenn man’s der Maschine nicht beibringt … dann hat sie schlicht nicht einen Anlass zu streiten … sie kann’s nicht, sie hat kein Motiv, es ist ohne jegliche BEdeutung für sie (3 Vermenschlichungen in einem Satz …)

Fazit: Wer Vermenschlichungen mag, wird sicher auch Dein Thema interessant finden. Einige Andere wird’s ein weiteres Mal erschauern, und den sich-reich-Rechnern werden eh’ anders damit umgehen :slight_smile:

4 „Gefällt mir“