Kommt drauf an wie technisch versiert deine Leserschaft so ist. Die nächsten KI Modelle werden einen mehrstufigen Entscheidungsfindungsprozess haben, bzw Deepseek v3 soll das schon haben. Das bedeutet, dass die KI mit solchen „Verwirrungen“ umgehen kann. Also halte ich es rein realistisch betrachtet sehr schwierig eine KI mit sprachlichen Eigentümlichkeiten zu überfordern.
KI versteht heute schon Umgangston und verschiedensten Slang, kann Redewendungen usw richtig deuten, versteht Ironie und Sarkasmus und auch, was ein Witz ist. Mir fehlt die Vorstellung, wie es 2081 sein wird. Wenn ich mir die Entwicklung in den letzten 3 Jahren ansehe, hab ich keine Vorstellung, wie es in 5 Jahren sein wird.
Aber es ist deine Geschichte, du hast ja alle Freiheiten. Ignorier das einfach? Oder denk dir - falls es dir wirklich wichtig ist, dass es plausibel ist - ein Gesetz aus, das 2029 die Entwicklung von KI stark reglementiert hat und diese auf den Stand von 2023/2024 eingefroren wurde? Weil die Gesellschaft mit der Entwicklung nicht mehr mitgekommen ist…?
Das wäre eine wunderbare Lösung, passt nur leider überhaupt gar nicht zur restlichen Geschichte. Ich bin auf der Suche nach Argumenten, warum eine KI gendern doof finden könnte, um es mal ganz platt zu formulieren.
Da stellt sich dann die Frage, ob KI soweit ist, dass sie Religionen und Glaubensvorstellungen ablehnt. Da könnte Gendern darunterfallen. Zum Beispiel, um Rechenleistung zu sparen, werden solche Vorstellungen nicht mehr berücksichtigt. Spannendes Thema^^
Weil in der Datenbank, worauf sie Zugriff hat, jemand entweder männlich oder weiblich ist? Weil dort klar unterschieden wird. Und weil gendern etwas ist, das zwar in der Amtssprache und in Zeitungsartikeln vorkommt, aber nicht in der privaten Schriftsprache und schon gar nicht in der gesprochenen Sprache.
Und diese Zweigleisigkeit findet die KI einfach eine Ressourcenverschwendung? Natürlich kommt sie damit klar, aber sie muss alles zweifach, dreifach abchecken, ob sie alles richtig verstanden hat, was natürlich doppelte und dreifache Rechenkapazität erfordert. Mit der eingesparten Zeit könnte sie ja … (denk dir was aus )
Weiß niemand, denn auch die „Gegenmaßnahme“ würde weiterentwickelt.
Ich finde den Fall nicht auf die Schnelle, aber Kurzbeschreibung:
Es wurde ein Programm geschrieben, dass nicht versucht Daten oder Clicks zu verhindern sondern im Hintergrund quasi alles randomisiert klickte und weiterverfolgte, das irgendwie auftauchte. Ziel war durch so viele Informationen unterschiedlicher Art ein Analysetool mit Infos zuzubomben. Also: ich kaufe ein Buch von Suse. Gleichzeitig kaufe ich aber willkürlich 1000 Bücher aus allen Genres, Zeiten usw.
Es ist nun unmöglich vor dem Bücherregal zu stehen und zu sagen: „Oh, Du liest gerne Suses Zeug. Wir haben hier noch 4 andere Bücher, die Dir gefallen könnten.“
Das Grundprinzip wurde -so meine ich- der Flugabwehr-Gegenmaßnahmen entnommen. Dem Radar so viele Signale schicken, dass das echte Ziel nicht mehr als solches wahrgenommen wird. (z.B. Aluminiumstreifen damals)
Die DNA Bombe funktioniert ähnlich. Anstatt meine möglichen Hautschuppen, Haarreste am Tatort zu bereinigen, verseuche ich die Umgebung mit so vielen anderen Fremd-DNA, dass es Jahre dauert zu selektieren oder jeder Spur nachzugehen.
Nur ganz grob. Vielleicht kennt ja einer von Euch IT Pros das Experiment. Muss ca 15 Jahre her sein. In den USA gewesen.
Genauer muss ich es gar nicht wissen. Es geht in der Geschichte nur um eine Hintergrundinformation zum Verhalten meines Hauptrobots.
Verstanden habe ich das Experiment und es leuchtet ein.
Weil sie eine Meinung entwickeln, was nach den Chernkow KernbasenProzessoren 2067 nicht mehr aus ihnen herauszubekommen war. Daher gibt es seit 2074 Beauftragte für KI Psychologie in der Personalabteilung.
Ich habe zwar alle Beiträge überflogen, aber dabei ggf. etwas übersehen.
Zum Gendern gehört auch, bei konkreten Personen keine allgemeinen Begriffe zu verwenden, sondern direkt von der Person zu reden: Martina. Martina fährt gerade zur Uni. Martina / Diese Person muss unbedingt verhaftet werden.
Es ist nicht notwendig, es auf eine Geschlechtszuschreibung zu reduzieren. Möglich wären auch geschlechtsneutrale Pronomen wie hen oder dey, die debattiert oder auch bereits verwendet werden (bspw. in der neuen Star Trek-Serie auf Amazon, „Discovery“).
Wahrscheinlich wäre auch, dass zu einer Person bereits eine Geschlechtszuweisung existiert, auf die die KI auch Zugriff hätte, wenn sie schon in der Exekutive unterwegs ist.
Also… nein, ich denke auch nicht, dass dieses Problem realistisch ist. Ich persönlich würde innerlich mit den Augen rollen, wenn eine Geschichte so gedreht wird, dass daraus die Meinung „Gendern ist blöd und kann sogar gefährlich werden“ klar herauslesbar ist.
Du könntest die Geschichte in der Gegenwart spielen lassen statt im Jahr 2081.
Wenn es sich um ein Pilotprojekt mit dem jetzigen Stand von KI handeln würde, könnte ganz realistisch jeder Fehler auftreten und die KI jeden erdenklichen Schwachsinn machen.
Ja und nein. Im Prinzip geht es darum, die KI nicht aufs Glatteis zu führen, sondern dass die KI verhindern möchte, aufs Glatteis geführt zu werden. Den Genderbezug hätte ich gern eingebaut, weil er sich auf einen anderen Teil der Geschichte bezieht. Ich muss hier und heute leider so schwammig bleiben, weil ich nicht zu viel verraten möchte. Obwohl es sich um reine Fiktion handelt, möchte ich dennoch glaubwürdig bleiben.
Ich kann aber auch den Genderbezug möglicherweise an einer anderen Stelle unterbringen. Ich werde mit den ganzen Infos und Einschätzungen von euch jetzt mal ein wenig rumprobieren.
eine Idee: Wenn die Fahndungsmeldungen schriftlich statt über mündlichen Funkverkehr verlaufen würden, könnte vielleicht durch ein KI-Programm-Update das Gendersternchen zum Problem werden. Die KI „verschluckt“ sich an den Sternchen, weil es sie als Sprungmarken im Text betrachtet oder nach der Fußnote zum Sternchen sucht oder sowas.
Wenn Du Einschätzungen brauchst, schreib mich einfach an. Ich bin immer gerne bereit mir eine gute Geschichte erzählen zu lassen und betrachte Fiktion ja eher als strukturierte Lüge. Also nicht 100% realistisch (Du kennst ja was von mir…).
Bei Logiklücken würde ich aber den Finger in die Wunde legen. Nur als Angebot.
Ich halte es für unwahrscheinlich, dass eine ki sich so hinters Licht führen lässt.
Schau mal nach China.
Da kann man nicht unerkannt durch die Stadt zur Uni.
Überwachung per Gesichtserkennung in den öffis, bezahlen per face ID. Dahin führt der Weg.
Irgendwann weiß das Netzwerk alles über seine Schäfchen in Echtzeit.
Seit Soldaten sich in hölzernen Pferden verborgen haben um die uneinnehmbare Festung zu überwinden wissen wir, dass Maßnahme und Gegenmaßnahme sich fest in der Geschichte umarmen.
Es kommen gar keine Fahndungsmeldungen vor. Das war nur ein Beispiel, um meine Frage zu verdeutlichen. Ich habe ja nun sehr schöne Anregungen bekommen und auch Bedenken hinsichtlich meiner initialen Idee. Ich muss da einfach mal rumfummeln im „echten“ Setting.
)