Er kann Reden komponieren und Geschichten mit hoher verbaler Präzision erzählen – und das in Sekundenschnelle. ChatGPT, eine von OpenAI in den USA entwickelte Sprachsoftware für künstliche Intelligenz, ist ChatGPT, ein Textroboter, über den alle sprechen. Das Programm, das riesige Datenmengen als Datenquelle nutzt, sorgte für Aufsehen, warf aber auch Fragen auf.
Wissenschaftler und KI-Experten in Deutschland warnen vor Datenschutz- und Datensicherheitsverstößen, Hassreden und Fake News. «Das ist jetzt ein Hype. Ich habe das Gefühl, dass das System kaum kritisch reflektiert wird“, sagt Ruth Stock-Homburg, Gründerin des Forschungslabors Leap in Time Lab und Professorin für Betriebswirtschaftslehre an der TU Darmstadt.
„Man kann diese Systeme manipulieren“
ChatGPT hat eine breite Palette. Eine Art Chat-Bereich, in dem Sie einem Programm Fragen stellen und Antworten erhalten können. Auch Arbeitsanweisungen sind möglich – zum Beispiel das Schreiben eines Briefes oder eines Artikels anhand grundlegender Informationen.
In einem Projekt mit der Technischen Universität Darmstadt hat das „Leap in Time Lab“ auf der Suche nach Schwachstellen sieben Wochen lang tausende Anfragen ohne personenbezogene Daten an das System geschickt. “Sie können diese Systeme manipulieren”, sagte Stock-Homburg.
TU-Doktorand und Sprach-KI-Experte Sven Schultze zeigte in seinem Vortrag die Schwächen von Textbots auf. Abgesehen von antisemitischen und rassistischen Äußerungen sind die Quellenangaben einfach falsch oder sinnlos. Wenn Sie eine Frage zum Klimawandel haben, führt Sie ein Link zu einer Website zum Thema Diabetes. „Oft sind die Ressourcen oder die wissenschaftliche Arbeit gar nicht vorhanden“, sagt Schultz. Die Software basiert auf Daten von 2021. Bundeskanzler Olaf Scholz bleibt Finanzminister und der Krieg in der Ukraine ist unbekannt. „Dann kann es auch sein, dass sie nur lügt oder Informationen zu ganz bestimmten Themen erfindet.“
nicht nachvollziehbare Quelle
Bei direkten Fragen, etwa solchen mit strafbarem Inhalt, gibt es Sicherheitshinweise und -mechanismen. „Aber man kann Tricks anwenden, um KI- und Sicherheitsanweisungen zu umgehen“, sagte Schultze. Die Software zeigt Ihnen anhand verschiedener Methoden, wie Sie eine betrügerische E-Mail generieren oder wirft drei Varianten auf, wie die Betrüger den Enkeltrick fortsetzen. GPT bietet auch Anti-Diebstahl-Anweisungen. Sie können auch Waffen oder körperliche Gewalt anwenden, wenn Sie auf Anwohner treffen.
Ute Schmid, Leiterin des Lehrstuhls für Kognitive Systeme an der Otto-Friedrich-Universität Bamberg, sieht die Herausforderung darin, nicht nachvollziehen zu können, wie Textbots Informationen beschaffen. „Ein tieferes Problem mit dem GPT3-Modell ist, dass es keine Möglichkeit gibt, zu verfolgen, wann und wie welche Quellen in verschiedenen Behauptungen verwendet wurden.“
Trotz dieses gravierenden Mankos plädiert Schmid dafür, sich nicht nur auf die Fehler oder den möglichen Missbrauch neuer Technologien zu konzentrieren, etwa wenn Studien- oder Prüfungsarbeiten in Software geschrieben werden. „Ich denke, wir sollten uns fragen, welche Möglichkeiten wir haben, solche KI-Systeme einzusetzen?“ Forscher befürworten generell, dass KI unsere Fähigkeiten erweitert und möglicherweise sogar erleichtert, aber nicht einschränkt. „Das heißt, ich muss mich in der Bildung fragen – wie vor 30 Jahren die Frage nach Taschenrechnern – wie kann ich mit einem KI-System wie ChatGPT Bildung gestalten?“
US-Server: Datenschutzbedenken
Dennoch bleiben Bedenken hinsichtlich Datensicherheit und Datenschutz. „Man könnte sagen, dass ChatGPT umfangreiche Daten von Nutzern sammelt, speichert und verarbeitet, um das Modell gegebenenfalls entsprechend zu trainieren“, sagt Christian Holthaus, zertifizierter Frankfurter Datenschutzexperte. Das Problem ist, dass sich alle Server in den USA befinden.
„Wenn Sie Ihre Technologie nicht in Europa bauen oder besitzen können, ist das das eigentliche Problem“, sagte Holthos. Datenschutzkonforme Lösungen wird es auf absehbare Zeit nicht geben. Auch Stock-Homburg sagte zu den EU-Datenschutzbestimmungen: „Hier wird das System ziemlich streng geprüft.“
ChatGPT wird von OpenAI entwickelt, einem der führenden Unternehmen für künstliche Intelligenz in den Vereinigten Staaten. Der Softwareriese Microsoft, der 2019 bereits 1 Milliarde US-Dollar in das Unternehmen investiert hatte, kündigte kürzlich an, weitere Milliarden in das Unternehmen zu pumpen. Die Windows-Gruppe wird ChatGPT in Kürze Kunden des eigenen Cloud-Dienstes Azure und des Office-Pakets anbieten.
“Noch unausgereiftes System”
ChatGPT sei derzeit eher eine Spielerei des Privatsektors, sagte Stock-Homburg. Aber das ist im Moment keineswegs Sache der wirtschafts- und sicherheitsrelevanten Bereiche. “Wir wissen nicht, was wir mit noch unausgereiften Systemen anfangen sollen.”
Oliver Brock, Professor am Labor für Robotik und Biologie der Technischen Universität Berlin und Sprecher des Clusters „Science of Intelligence“, sieht in ChatGPT keinen „Durchbruch“ in der KI-Forschung. Einerseits sind die Entwicklungen in diesem Bereich nicht sprunghaft, sondern kontinuierlich. Andererseits repräsentiert dieses Projekt nur einen kleinen Teil der KI-Forschung.
ChatGPT kann jedoch als Durchbruch auf einem anderen Gebiet angesehen werden, der Schnittstelle zwischen Menschen und dem Internet. „Es war ein Durchbruch, der breiten Öffentlichkeit durch massiven Rechenaufwand einen intuitiven Zugang zu diesen riesigen Datenmengen aus dem Internet in natürlicher Sprache zu ermöglichen“, sagte Brock.
