ChatGPT ist ein KI-Sprachmodell, das von vielen derzeit gerne genutzt wird. Allerdings ist es kein geeignetes Recherchetool, wie ein Anwalt nun schmerzhaft feststellen musste. Er reichte einen Antrag ein, der von dem Chatbot frei erfundene Fälle enthielt.
Der Versuch eines Anwalts in New York, den Chatbot ChatGPT bei der Recherche für einen Fall zu verwenden, ist auf spektakuläre Weise schiefgegangen. Ein von ihm eingereichter Antrag enthielt Verweise auf Fälle wie "Petersen gegen Iran Air" oder "Martinez gegen Delta Airlines" - die frei erfunden waren. Dem Anwalt zufolge wurden die angeblichen Urteile und Aktenzeichen dazu von ChatGPT ausgegeben.
In dem Fall reichte ein Passagier Klage gegen die Fluggesellschaft Avianca ein, weil er von einem Servierwagen am Knie verletzt worden sei. Die Airline beantragte, die Klage abzuweisen. In dem Gegenantrag im März verwies die Anwaltskanzlei des Klägers auf verschiedene frühere Entscheidungen. Bei sechs davon konnten die Avianca-Anwälte jedoch keine Belege für deren Existenz finden.
Verweise auf frei erfundene Fälle
Der Klägeranwalt gab nun in einer Stellungnahme unter Eid an, er habe das Gericht nicht täuschen wollen, sondern sich nur auf Zusicherungen von ChatGPT verlassen, dass die Fälle authentisch seien. Der Chatbot habe dazu auch Texte angeblicher Urteile ausgegeben, die von seiner Kanzlei dem Gericht im April vorgelegt wurden. Diese Dokumente enthielten ihrerseits auch Verweise auf Fälle, die sich als frei erfunden herausstellten. In den USA gibt es Datenbanken mit Urteilen, mit denen die Angaben von ChatGPT hätten überprüft werden können.
Lesen Sie auch: Dank ChatGPT: Notenverbesserung, Hausaufgaben-Hilfe und eine Sorge
In den vergangenen Monaten sorgten Chatbots wie ChatGPT für neuen Hype um Anwendungen auf Basis Künstlicher Intelligenz (KI). Solche Software wird auf Basis gewaltiger Datenmengen antrainiert und bildet Sätze, indem sie Wort für Wort schätzt, wie sie weitergehen sollten.
Experten warnen, dass die Technik durch diese Funktionsweise auch frei erfundene Informationen ausgeben kann, die für den Nutzer echt aussehen können. Zugleich wird Anwalt oft als einer der Berufe genannt, die von solcher KI-Technologie besonders stark verändert werden könnten, weil sie Informationen schnell auswerten und Texte formulieren kann, die von einem Menschen stammen könnten. (dpa/mak)
"So arbeitet die Redaktion" informiert Sie, wann und worüber wir berichten, wie wir mit Fehlern umgehen und woher unsere Inhalte stammen. Bei der Berichterstattung halten wir uns an die Richtlinien der Journalism Trust Initiative.