KI-Resultate hinterfragen

Ich arbeite seit mehr als 15 Jahren mit KI (Künstlicher Intelligenz) in der Chemie. Da verwende ich unterschiedliche Software mit unterschiedlichen Algorithmen. Als Output erhalte ich dann je nach Software zum Teil um Grössenordnungen unterschiedliche Ergebnisse. Aber genau hier lassen wir uns blenden. KI-generierte Resultate werden zu oft unkritisch als vertrauenswürdig akzeptiert, und der aktuelle Hype fördert diese Haltung. Ich erwarte, dass in naher Zukunft verschiedene KI-Programme unterschiedliche Ergebnisse liefern und Diskussionen auslösen werden, die deren Wert relativieren.

Ein Grundproblem der aktuellen KI-Programme ist ja, dass sie auf viele, auch falsche Daten zugreifen, die im Internet verfügbar sind. Ein Beispiel. Ich habe die Frage in Chat-GPT eingegeben: Ist Oxamid ökotoxisch? Die Antwort von Chat-GPT lautete: «Oxamid wird im Allgemeinen als wenig toxisch und wenig umweltschädlich angesehen. Es wurde umfassend auf seine ökotoxikologischen Eigenschaften untersucht, und die verfügbaren Daten deuten darauf hin, dass es bei ordnungsgemässer Handhabung und Anwendung keine nennenswerten Risiken für die Umwelt oder wild lebende Tiere darstellt. Oxamid hat eine geringe akute Toxizität für Wasserorganismen wie Fische und Wirbellose. Eine geringe Toxizität wurde auch für Vögel und Säugetiere nachgewiesen. Wie bei allen Chemikalien ist es jedoch wichtig, dass bei der Handhabung und Verwendung von Oxamid die entsprechenden Sicherheitsmassnahmen und Leitlinien befolgt werden, um mögliche Auswirkungen auf die Umwelt zu minimieren.»

Dann stellte ich die Anschlussfrage: «Geben Sie mir wissenschaftliche Referenzen für die Ökotoxizität von Oxamid» und erhielt als Antwort von Chat-GPT: «Ich bitte um Entschuldigung, aber als KI-Sprachmodell habe ich keinen direkten Zugang zu externen Quellen oder die Möglichkeit, das Internet zu durchsuchen. Ich kann allgemeine Informationen auf der Grundlage meines Vorwissens geben, aber ich kann keine spezifischen wissenschaftlichen Referenzen abrufen oder aktuelle Daten zur Ökotoxizität von Oxamid liefern.»

Das ist sehr fragwürdig, denn Chat-CPT macht klare Aussagen über die Ökotoxizität von Oxamin, hat aber keinen Zugang zu den wissenschaftlichen Quellen, die ihrerseits auch Interpretationsspielräume und Fehler aufweisen. Für mich ist die Quintessenz aus all meinen Erfahrungen, dass wir KI-generierte Daten noch kritischer bewerten müssen, als dies ohnehin schon bei jedem Computer-Output notwendig ist.

Peter Bützer, Altstätten