KI bei Nobelpreisträgertagung Lindau: KI und das Vertrauen in die Wissenschaft

19.10.2024

KI bei Nobelpreisträgertagung Lindau: Chance oder Gefahr für die Wissenschaft?

In Lindau diskutierten Nobelpreisträger über KI. Welchen Einfluss hat diese Technik auf das Vertrauen in die Wissenschaft?

In der ersten Juliwoche fanden die 73. Lindauer Nobelpreisträger-Tagungen mit dem fachlichen Fokus auf der Physik statt. Ein besonders interessantes Podium widmete sich der Frage, wie im Zeitalter Künstlicher Intelligenz (KI) das Vertrauen in die Wissenschaft bewahrt werden kann.

Wie vertrauenswürdig sind KI-Schlussfolgerungen, die in der Regel auf großen Datenbanken basieren? Dieses Vertrauen sei für die Forschenden ebenso wichtig wie für die breite Öffentlichkeit, wurde unter anderem von der Moderatorin konstatiert.

Ausgehend von der Tatsache, dass KI in der Forschung in Form schneller und leistungsfähiger Werkzeuge beispielsweise bei der Analyse großer und komplexer Datensätze immer mehr Anwendung findet, stellte sich das Podium die Frage, inwieweit bisher geltende wissenschaftliche Prinzipien der Transparenz, der Reproduzierbarkeit und der Falsifizierbarkeit grundlegend überarbeitet werden müssten.

KI als Assistent oder eigenständige Forschungseinheit

Nobelpreisträger und Supernova-Spezialist Professor Brian Schmidt von der Australian National University stellte die Problematik heraus, dass viele wissenschaftlich arbeitende Hochschulangehörige KI nicht mehr länger als Hilfsmittel nutzten, sondern insbesondere die sogenannten großen Sprachmodelle (LLM) wie ChatGPT eigenständig arbeiten ließen, um deren Ergebnisse als die eigenen zu präsentieren. So würden sie selbst nicht mehr viel dabei lernen.

Welches Maß an menschlicher Kontrolle brauchen wir, damit etwas als "Wissenschaft" bezeichnet werden kann? Nobelpreisträger Professor David J. Gross, Elementarteilchen-Experte von der University of California, Santa Barbara, machte klar, dass insbesondere LLMs wie ChatGPT so trainiert sind, dass sie aus der Analyse großer Datenmengen immer ein faktisch plausibel erscheinendes Ergebnis generieren. Allerdings seien diese Ergebnisse teils einfach erfunden und nicht valide, eine sogenannte Halluzination. Eine KI kenne kein Interesse für richtig oder falsch.

Brauchen wir neue Werkzeuge, um zu verhindern, dass falsche KI-Ergebnisse als Grundlage für die Entscheidungsfindung in Regierung, Wirtschaft und Gesellschaft verwendet werden? Als Nachwuchswissenschaftler diskutierte Jaryd Ricardo Christie für den besonders vertrauenssensiblen Fachbereich Medizinphysik in der renommierten Runde. Er bezeichnete KI als „Blackbox“, da man sie nie komplett verstehe. Weder wie sie arbeite, noch wie fundiert oder vorurteilsfrei ihre Ergebnisse seien. Es sei besonders wichtig, die Ergebnisse einer KI zu überprüfen und Risiken derart zu minimieren, indem man der KI besonders valide Daten aus der praktischen Forschung für die Analyse zur Verfügung stelle.

Vertrauen heutzutage schwer zu erarbeiten

Für Nobelpreisträger ist es schwierig, Vertrauen in die Wissenschaft zu erarbeiten, wenn KI-Ergebnisse als Grundlage für die Entscheidungsfindung verwendet werden. Es sei wichtig, die Ergebnisse einer KI zu überprüfen und Risiken derart zu minimieren, indem man der KI besonders valide Daten aus der praktischen Forschung für die Analyse zur Verfügung stelle.

Zusammenfassend kann man sagen, dass die Diskussion um KI und das Vertrauen in die Wissenschaft noch lange nicht abgeschlossen ist. Es bleibt abzuwarten, wie sich die Wissenschaft in Zukunft entwickeln wird und wie man das Vertrauen in die Wissenschaft aufrechterhalten kann.