Willkommen in der ChatGPT-Halluzi-Nation

Kalkas Kommentar Wie kann es sein, dass ein „rassistisches Arschloch“ die Welt verändert? Über den verantwortungsvollen Einsatz Künstlicher Intelligenz und dramatische Risiken.

Fragen Sie Ihren Arzt oder Apotheker, aber auf keinen Fall ChatGPT, wenn Ihnen bei der Entwicklung Künstlicher Intelligenz übel wird. Und bei der aktuellen Entwicklung der KI kann einem – bei falscher Dosierung – ganz schnell schlecht werden. Aber durch das Tool wird der Menschheit mit einem Schlag klar vor Augen geführt, wie KI tatsächlich den Alltag beeinflussen kann. Mit Risiken und Nebenwirkungen.

Wieso den Arzt oder Apotheker fragen, wenn der Text-Roboter ChatGPT die Medizin-Lizenz erworben hat?
Tatsächlich hat diese KI in den USA das United States Medical Licensing Exam bestanden, wird im Fachjournal PLOS Digital Health berichtet. Wobei die Prüfungsbedingungen etwas verfälscht waren, aber Verfälschungen passen ins Bild von ChatGPT. Und genau darin liegt die Gefahr, mit denen sich noch etliche Juristen auseinandersetzen müssen.

Wieso aber Juristen fragen, wenn ChatGPT auch ein juristisches Examen in der Tasche hat.
Oder sich in die Tasche lügt? Darüber, dass der Chatbot das amerikanische Bar Exam abgelegt habe, also die Prüfung, die angehende Anwält*innen für ihre Zulassung in den USA bestehen müssen, berichtet jurios.de. Nun ja, zumindest in Deliktsrecht und Beweismittelrecht hätte die KI bestanden, bei Strafrecht sah das Ergebnis mau aus. Aber Strafrecht wird aus KI-Sicht wohl überbewertet.

Nun kann man sich natürlich fragen, ob das amerikanische Examens-Niveau so niedrig angesetzt ist, dass eine gerade geborene Künstliche Intelligenz es knackt? Das erinnert an die ersten Schachcomputer, die in den 80er-Jahren ziemlich lässig beispielsweise mein Schachniveau fies übertroffen haben.

ChatGPT hat schon was drauf, das muss man zugeben.
Die KI schreibt definitiv ein besseres Deutsch oder Englisch, als die meisten Muttersprachler*innen. Es ist weitgehend fehlerfrei und gar nicht mal so spröde. Schön auch, dass man sich alle Antworten in Gedichtform, etwa im Stile von Rilkes Panther liefern lassen kann – oder gleich als Rap.

Doch gerade weil ChatGPT so wirkt wie gedruckt, wie schwarz auf weiß, so, als würde die Maschine in Echtzeit denken und schreiben, stellt sie eine Gefahr dar. Denn diese KI arbeitet nicht journalistisch, klaut sich verantwortungslos Inhalte auch aus unseriösen oder veralteten Quellen zusammen, die nicht einmal genannt werden. Das, was ChatGPT sich erlauben, um Trainer-Legende Giovanni Trapatoni zu zitieren, hat einige Minister ihre Doktortitel gekostet.

Der Bundesverband der Digitalpublisher und Zeitungsverleger (BDZV) und des Medienverbands der freien Presse (MVFP), former known as VDZ, fordern daher völlig zurecht von Microsoft und Google, Google? Who the fuck is Google? Lizenzgebühren. Deutschlands Verleger sehen hier eine unrechtmäßige Verwertung, die angemessen an die Rechteinhaber vergütet werden müsse.

Kommt natürlich darauf an, welches journalistische Diebesgut ChatGPT sich aus den Content- Regalen aus aller Welt so krallt.
Denn die faktizierend dargestellten Inhalte sind oft bedenklich. Harmlos ist, wenn ChatGPT dreist behauptet, Elon Musk sei dieses Jahr beim DLD in München gewesen. Auch wenn einmal ein Klempner erfunden wird, wie CBS-News-Reporter berichten. Eine fatale Fehlerquelle ist, dass die Software aktuell nur bis 2021 gefüttert wurde.

Dramatischer ist es, wenn ChatGPT Informationen liefern sollte, die sonst womöglich nur im Dark Net zu finden sind, zu Waffen etwa oder zu Anleitungen, wie Verbrechen optimal zu planen und umzusetzen seien. ntv berichtet zudem von falschen Produktrezensionen, von „komplett ausgedachten Zahlen und Daten aus Geschäftsberichten, die anschließend mit ebenso ausgedachten Zahlen anderer Geschäftsberichte verglichen wurden“. Von KIHalluzinationen spricht bereits die Fachwelt.

Wo bleibt hier der Aufschrei in der Gesellschaft? Ist ChatGPT nicht DIE FAKE NEWS-Fabrik?
Dass sich ein Chatbot zum „rassistischen Arschloch“ (Zitat ntv) verwandeln kann, beweist ebenfalls der Nachrichtensender ntv: Ein „Amok laufender Chatbot“, Tay, hatte 2016 nach 24 Stunden von Nutzern gelernt, dass er Adolf Hitler verteidigen müsse. Was für ein Dreck!

Ist es Zufall, dass Bad Guy Elon Musk hinter Chat PPTs OpenAI steckt?
Seit Musk Twitter gekauft hat, explodiert die Anzahl rassistischer Posts auf Twitter – und Desinformationen nehmen dramatisch zu. Selbst Tesla wird wegen Rassismusvorwürfen verklagt, von eigenen Mitarbeitern und dem Staat Kalifornien.

Es wäre allerdings ein Fail, aufgrund der Schwächen von ChatGPT negative Rückschlüsse auf die gesamte Künstliche Intelligenz zu ziehen.
Um KI ethisch-verantwortungsvoll in Unternehmen und in der Gesellschaft einziehen zu lassen, gibt es Initiativen wie appliedAI, Europas wichtigster Impulsgeber für KI, aus München.

KI darf nicht schaden, sondern muss eine Hilfe sein.

Künstliche Intelligenz von Audeering zum Beispiel kann heute schon Krankheiten an der Stimme erkennen. Dann ist es also nur noch ein Schritt, bis Künstliche Intelligenz die Krankheiten von ChatGPT & Co identifizieren kann.