Netzpolitik

Neunlich habe ich mich aus Neugierde mit einem ChatGPT-Bot unterhalten, den der Eigentümer eines XMPP-Chat-Raums dort als regulären Teilnehmer "just for fun" implementiert hat.

Fazination und Erschrecken zugleich. Bald können wir und unsere Kinder also nicht einmal mehr sicher sein, ob das Gegenüber, mit dem wir chatten wirklich ein Mensch ist. Wo soll das hinführen?

1. Als ich den Bot genau das gefragt habe, hat er mir erklärt, dass auch in der Zukunft von ihm keine Gefahr ausgehen wird. Er äußere sich immer nur im Rahmen der ethischen Grundsätze seines Programmierers.

2. Bots sind so ethisch, wie ihre Entwickler, die sie programmiert haben! Als ich den Eigentümer des XMPP-Chat-Raums höflich auf dieses Problem hinwies, erntete ich nur Unverständnis, wie man sich denn überhaupt so technikfeindlich äußern könne.

3. Diese Bots spielen auch in der Diskussion zur Chatkontrolle - letztlich zum Kinderschutz - eine nicht unerhebliche Rolle. Wenn sich die Dinger demnächst so von Kriminellen programmieren lassen, dass man sie von menschlichen digitalen Identitäten nicht mehr unterscheiden kann, halte ich das tatsächlich für eine große politische Herausforderung.

4. Die öffentliche Wahrnehmung von Elon Mask ist wahrscheinlich noch das geringste Problem. Dummheit kann auch immer sehr intelligent, medienwirksam und wirtschaftlich erfolgreich sein.