Herausforderungen annehmen, Chancen nutzen, Risiken minimieren

KI-Werkzeuge wie ChatGPT & Co., die Texte produzieren sowie Schreibprozesse durch Rückmeldungen steuern können, beinhalten nach Einschätzung des Deutschen Hochschul-verbands (DHV) auch für Forschung und Lehre Chancen und Risiken, die fortlaufend überprüft und bewertet werden müssten. „Chatbots können als Tutor und Lernbegleiter dienen, die Studierenden den Wissenserwerb und die Wissensvertiefung erleichtern. Sie können eine Inspirationsquelle sein und Wissenschaftlerinnen und Wissenschaftler bei vielfältigen zeitraubenden Routinetätigkeiten entlasten, so dass im Idealfall wieder größere Freiräume für Forschung und Lehre entstehen“, erklärte DHV-Präsident Professor Dr. Dr. h.c. Lambert T. Koch anlässlich des 74. DHV-Tags in Berlin. „Zunächst plausibel wirkende Texterzeugnisse können mitunter aber auch haarsträubende Fehler und Falschaussagen enthalten, Quellen erfinden sowie diskriminierenden oder stereotypen Vorurteilen, die aus den Trainingsdaten stammen, Vorschub leisten. Ebenso können KI-generierte Inhalte Plagiate oder auch sensible Daten aus dem Trainingskorpus bergen, so dass unwissentlich Urheberrechtsverletzungen oder Datenschutzverstöße drohen.“

Unbestritten sei darüber hinaus, dass KI-Software die Betrugsmöglichkeiten in Studium und Wissenschaft erhöhe. Daher sei es notwendig, dass Wissenschaftlerinnen und Wissenschaftler mit den Anwendungsmöglichkeiten vertraut und für Missbrauchsrisiken sensibilisiert seien. Hochschulen und Fachgesellschaften stünden in der Pflicht, fortlaufend zu aktualisierende Qualifizierungsangebote für Lehrende anzubieten. Studierende müssten zum reflektierten und kompetenten Umgang mit KI nicht nur für eine wissenschaftliche Karriere, sondern auch für den außerhochschulischen Arbeitsmarkt qualifiziert werden.
Laut DHV sollte dort, wo KI-Werkzeuge als Hilfsmittel genutzt werden dürften, eine Kennzeichnungspflicht gelten, die bei Missachtung oder Verstoß je nach Schwere Sanktionsmöglichkeiten eröffne. Prüferinnen und Prüfer müssten Textbewertungen dagegen weiterhin selbst vornehmen und dürften diese nicht an KI-Systeme auslagern. „Der im Zuge weiterer technischer Optimierungen wachsenden Versuchung, KI-Anwendungen blind zu vertrauen, muss nicht zuletzt mittels guter Lehre vorgebaut werden“, ergänzte der DHV-Präsident. „Diese sollte weiterhin darauf ausgerichtet bleiben, junge Menschen dazu zu befähigen, anhand von gesichertem Wissen Sachverhalte kritisch einordnen und bewerten zu können. Auch die Regeln guter wissenschaftlicher Praxis, unter Einbezug der neuen technologischen Optionen, müssen Lehrende wie bisher konsequent vermitteln.“

Gute Lehre und ein vor enormen Herausforderungen stehendes Prüfungswesen setzten gute Betreuungsrelationen voraus. Diese seien mit im bundesweit fächerübergreifenden Durchschnitt von 61 Studierenden pro Professorin und Professor an Universitäten und ihnen gleichgestellten Hochschulen nach wie vor nicht gegeben. Vor diesem Hintergrund erneuerte Koch insbesondere an die Länder die Aufforderung, durch ausreichende Budgetierung bessere Betreuungsrelationen schrittweise zu gewährleisten, damit Risiken minimiert und die Chancen von KI in Studium und Lehre gewinnbringend genutzt werden können.