Aktuelles

US-Aufsichtsbehörde FTC ermittelt gegen Open AI

Es kommt wohl immer mal wieder vor, dass der KI-Bot Chat-GPT Informationen verbreitet, die den Ruf einer Person schädigen können. Einfach deshalb, weil unreflektiert Inhalte aus dem Internet eingelesen und verwertet werden. Die amerikanische Verbraucherschutzbehörde FTC hat laut Medienberichten bereits im Juli eine Untersuchung gegen die Entwicklerfirma OpenAI eingeleitet.

Seit Ende des letzten Jahres ist Chat-GPT in aller Munde, da das KI-Tool in weitgehend natürlicher Sprache mit Menschen kommunizieren kann. Doch bis es soweit war, wurde die Software mit einer riesigen Menge an Daten trainiert, um Sätze Wort für Wort zu generieren. Ein Nachteil dieses Ansatzes besteht darin, dass die Software kein tatsächlichen Verständnis für die erzeugten Inhalte hat. Daher kann Chat-GPT auch Informationen vermitteln, die schlichtweg unrichtig sind.

Nun hat die FTC dem KI-Platzhirsch eine umfangreiche Liste von Fragen zu möglichen Gefahren für Verbraucher zukommen lassen. Die Behörde konzentriert sich dabei insbesondere auf den Umgang mit Nutzerdaten sowie auf Situationen, in denen Chat-GPT falsche Informationen über Personen verbreitet.

So wurden in den letzten Monaten mehrere Fälle bekannt, in denen Chat-GPT unwahre Behauptungen über Personen aufgestellt hat. Zum Beispiel hat die Software fälschlicherweise behauptet, es gäbe Vorwürfe sexueller Belästigung gegen einen Jura-Professor und als Beleg auf einen angeblichen Artikel in der "Washington Post" verwiesen. Es gab jedoch weder Vorwürfe noch einen solchen Artikel, wie die Zeitung bereits im April berichtet hat. Ebenso hat die Software behauptet, ein Bürgermeister aus Australien sei zu einer Gefängnisstrafe verurteilt worden - was natürlich ebenso an den Haaren herbeigezogen war.

Ein Fall, der in den Medien viel Aufmerksamkeit erregte, war der eines US-Anwalts, der angab, sich bei seiner Argumentation in einem Gerichtsfall auf Informationen von Chat-GPT gestützt zu haben. Mehrere von ihm zitierte angebliche Urteile stellten sich als frei erfunden heraus.

Darüber hinaus gibt es wohl jede Menge Datenschutzprobleme. Im März konnten einige Chat-GPT-Nutzer die Chat-Historie anderer Personen einsehen, auch wenn die Zahl der Betroffenen als "extrem niedrig" beschrieben wurde. Da stellen sich bei Datenschützern naturgemäß die Nackenhaare auf.

Die FTC verlangt von Open AI Informationen zu diesem und anderen Vorfällen und möchte wissen, wie bewusst den Nutzern ist, dass Chat-GPT falsche Informationen liefern kann. Zudem interessiert sich die FTC für die Vorsichtsmaßnahmen, die Open AI trifft, bevor neue Versionen der Software öffentlich zugänglich gemacht werden.

07.09.2023