Was ist ChatGPT und was kann es?
Dr. Nadine Steinmetz ist akademische Rätin an der TU Ilmenau im Fachgebiet Datenbanken und Informationssysteme und mit ChatGPT bestens vertraut. „ChatGPT ist ein auf Dialoge spezialisiertes System, also ein Chatbot, der darauf trainiert wurde, besonders gut Konversationen zu führen und auf Fragen zu antworten – und das besonders gut in der natürlichen Sprache, also sehr eloquent zu sein“, so die Informatik-Expertin. Die ausgesprochen hohe Eloquenz ist es auch, die ChatGPT so besonders macht. Das System merkt sich auch frühere Fragen des Nutzers und geht explizit darauf ein – das können beispielsweise Alexa oder Siri nicht. Doch man kann sich mit dem Programm nicht nur unterhalten, sagt Steinmetz: „Man kann Spiele spielen, man kann sich Musik komponieren lassen, Gedichte schreiben lassen – man kann auch programmieren lassen und so weiter, also es ist schon sehr vielfältig.“ Trainiert wurde ChatGPT ursprünglich aber auf das Ergänzen von Texten: „Es wird immer das nächst relevanteste Wort für einen Text rausgefunden, um dann Texte möglichst natürlich sprachlich aufzubauen“, so Steinmetz.Wie funktioniert und lernt ChatGPT?
Technisch gesehen steht hinter ChatGPT ein Sprachmodell, das wie ein künstliches neuronales Netz aufgebaut ist. Dieses Netz funktioniert ähnlich wie unser menschliches Gehirn, erklärt Steinmetz: „Dieses künstliche neuronale Netz wurde antrainiert mit sehr vielen textuellen Daten – und darauf wird dann zurückgegriffen, wenn man diesen Chatbot benutzt. Und wenn man Fragen rückbeantwortet, geht das alles in dieses neuronale Netz im Hintergrund wieder mit ein – und ChatGPT lernt somit mit.“ Je mehr Leute das Programm nutzen, desto besser funktioniert es also am Ende. Dass ChatGPT uns in Zukunft jemals ebenbürtig werden könnte, glaubt Steinmetz aber nicht: „Ich persönlich bin der Meinung, es kann eine menschliche Intelligenz nicht erreichen. Also auf bestimmte Use Cases ausgerichtet ist es sehr schnell und auch dem Menschen überlegen, zum Beispiel im Schachspielen, aber dafür sind wir Menschen weltumfassender.“Wo liegen die Chancen und Risiken von ChatGPT?
ChatGPT ist besonders für die Forschung sehr interessant und kann hier in ganz verschiedenen Disziplinen unterstützen. Gut einsetzbar ist ChatGPT laut Steinmetz vor allem auch im kreativen Bereich: „Was dieses Sprachmodell sehr gut kann, ist eben, alle möglichen Texte der Welt miteinander zu kombinieren und daraus zum Bespiel einen neuen Slogan oder einen neuen Werbetext zu bauen.“ Kreativ ist ChatGPT also – allerdings nicht so fantasievoll wie wir, da es nur auf die Daten zurückgreifen kann, mit denen es trainiert wurde, und sich nicht eigenständig etwas ganz Neues ausdenken kann. Auch beim Thema aktuelle Inhalte gerät ChatGPT schnell an seine Grenzen: „Das Wissen, was in dem Sprachmodell drinsteckt, ist begrenzt auf die Trainingsdaten“, so Steinmetz. Alles, was seit 2021 – dem Ende der Trainingsphase – passiert ist, weiß ChatGPT also ganz einfach nicht. Ein weiteres gravierendes Problem von ChatGPT ist, dass es von den Trainern erwiesenermaßen in Richtung Rassismus und Sexismus beeinflusst wurde und nun teilweise diskriminierende Antworten gibt – und das, obwohl ChatGPT extra Filter eingebaut hat, um genau das zu verhindern. Zum Teil gibt das Programm auch falsche Antworten, was ebenfalls damit zusammenhängt, von wem und wie das Modell gefüttert wurde, warnt Steinmetz: „Die Infos werden eben für bare Münze genommen, weil das Sprachmodell so eloquent uns die Antworten wiedergibt, dass wir da keinen Zweifel dran haben könnten, dass das nicht richtig ist.“ Daher der abschließende Tipp der Informatik-Expertin: „Mit Vorsicht genießen!“
