Italien hat den Zugang zum KI-basierten Chatbot ChatGPT vorläufig gesperrt. Als Grund nennt die zuständige Behörde fehlenden Daten- und Jugendschutz. Die Software des US-Konzerns nutze Daten italienischer Internetnutzer:innen ohne deren Zustimmung. Ausserdem gebe es keine Altersverifikation oder Filter, der es Kindern unter 13 Jahren verunmöglicht, den Dienst zu nutzen.
ChatGPT nutzt für seine Antworten riesige Datensätze, auf die es zurückgreift. Gleichzeitig sammelt und speichert die Software aber auch die Texteingaben der Nutzer:innen. Dafür gebe es aber keine Rechtsgrundlage, so die italienische Datenschutzbehörde. Da ChatGPT die Nutzer:innen nicht über die Datenspeicherung informiert, dürfte vielen nicht klar sein, dass ihre Texteingaben aufgezeichnet und weiterverarbeitet werden.
ChatGPT könnte für kriminelle Zwecke missbraucht werden
Die Entwicklerfirma hat nun 20 Tage Zeit, über ergriffene Massnahmen zu informieren. Tut openAI das nicht, droht eine Strafe von bis zu 20 Millionen Euro oder bis zu vier Prozent des Jahresumsatzes. openAI selbst hat sich noch nicht zur Situation geäussert.
Künstliche Intelligenzen stehen nach einer anfänglichen Euphorie vermehrt in der Kritik. Vor allem ChatGPT steht dabei im Fokus. Expert:innen geben zu bedenken, dass der Chatbot für kriminelle Zwecke missbraucht werden könnte. Die Polizeibehörde Europol warnt, dass Chatbots etwa Informationen bereitstellen könnten, wie man in ein Haus einbricht oder auch bei Cyberkriminalität helfen. Dies ist auch der Grund, warum über 1000 Expert:innen aus Technik und Forschung in einem offenen Brief einen Entwicklungsstopp fordern. Anschliessend sollen Richtlinien und Sicherheitsstandards für KI-Modelle festgelegt werden.
Mehr zum Thema Online-Sicherheit und künstliche Intelligenz:
