ChatGPT ist eines der erfolgreichsten KI-basierten Programme auf dem Markt. Nach der anfänglichen Euphorie über diese neue Technologie warnen Fachleute immer öfter auch vor möglichen Gefahren. Mehr als 1000 Experten aus Technik und Forschung - unter ihnen auch Elon Musk - forderten bereits eine Entwicklungspause für neue KI-Modelle, bis man Sicherheitsstandards etabliert habe.
Die Polizeibehörde Europol erklärte ihrerseits, Kriminelle und Betrüger könnten sich die Anwendungen zunutze machen. Chatbots könnten zum Beispiel Informationen geben, "wie man in ein Haus einbricht, bis hin zu Terrorismus, Cyberkriminalität und sexuellem Missbrauch von Kindern." Eine unabhängige Kontrollinstanz oder konkrete staatliche Regelungen gibt es bisher nicht.
Neunlich habe ich mich aus Neugierde mit einem ChatGPT-Bot unterhalten, den der Eigentümer eines XMPP-Chat-Raums dort als regulären Teilnehmer "just for fun" implementiert hat.
Fazination und Erschrecken zugleich. Bald können wir und unsere Kinder also nicht einmal mehr sicher sein, ob das Gegenüber, mit dem wir chatten wirklich ein Mensch ist. Wo soll das hinführen?
Als ich den Bot genau das gefragt habe, hat er mir erklärt, dass auch in der Zukunft von ihm keine Gefahr ausgehen wird. Er äußere sich immer nur im Rahmen der ethischen Grundsätze seines Programmierers.
Bots sind so ethisch, wie ihre Entwickler, die sie programmiert haben! Als ich den Eigentümer des XMPP-Chat-Raums höflich auf dieses Problem hinwies, erntete ich nur Unverständnis, wie man sich denn überhaupt so technikfeindlich äußern könne.
Diese Bots spielen auch in der Diskussion zur Chatkontrolle - letztlich zum Kinderschutz - eine nicht unerhebliche Rolle. Wenn sich die Dinger demnächst so von Kriminellen programmieren lassen, dass man sie von menschlichen digitalen Identitäten nicht mehr unterscheiden kann, halte ich das tatsächlich für eine große politische Herausforderung.
Die öffentliche Wahrnehmung von Elon Mask ist wahrscheinlich noch das geringste Problem. Dummheit kann auch immer sehr intelligent, medienwirksam und wirtschaftlich erfolgreich sein.