{"id":26111,"date":"2026-01-07T14:30:31","date_gmt":"2026-01-07T12:30:31","guid":{"rendered":"https:\/\/www.wjst.de\/blog\/?p=26111"},"modified":"2026-03-27T06:04:57","modified_gmt":"2026-03-27T04:04:57","slug":"die-dfg-torpediert-sich-selbst","status":"publish","type":"post","link":"https:\/\/www.wjst.de\/blog\/sciencesurf\/2026\/01\/die-dfg-torpediert-sich-selbst\/","title":{"rendered":"Die DFG torpediert sich selbst"},"content":{"rendered":"
\"\"<\/a>
https:\/\/www.dfg.de\/de\/aktuelles\/neuigkeiten-themen\/info-wissenschaft\/2025\/ifw-25-102<\/figcaption><\/figure>\n

AI\u2011Systeme, jedenfalls wie sie heute existieren, beruhen ausschlie\u00dflich auf historischen Daten und statistischen Mustern aus bereits vorhandenem Wissen. Sie k\u00f6nnen nicht wirklich verstehen oder originell urteilen, sondern nur bekannte Konzepte extrapolieren. Dadurch fehlt ihnen die F\u00e4higkeit, bahnbrechende, noch nicht dokumentierte Ideen oder originelle wissenschaftliche Innovationen zu erkennen oder korrekt zu bewerten \u2014 was f\u00fcr die Beurteilung von Forschungsantr\u00e4gen oft zentral ist.<\/p>\n

Fachlich versierte Gutachter*innen bringen Erfahrung, kontextuelles Verst\u00e4ndnis und Intuition in die Bewertung ein \u2014 Qualit\u00e4ten, die KI\u2011Modelle noch nicht besitzen. KI kann bei Routine\u2011Checks oder formalen Aspekten helfen, aber sie kann nicht subtile wissenschaftliche Originalit\u00e4t, methodische Raffinesse oder neuartige Denkans\u00e4tze zuverl\u00e4ssig bewerten. Definitiv nicht.<\/p>\n

KI\u2011Modelle lernen aus Datens\u00e4tzen, die bereits menschliche Vorurteile und strukturelle Verzerrungen enthalten. Wenn solche Systeme zur Begutachtung eingesetzt werden, riskieren sie, historische Ungerechtigkeiten und systematische Biases zu reproduzieren \u2013 etwa gegen\u00fcber bestimmten Fachrichtungen, Regionen oder Methoden \u2013 selbst wenn \u201eVerantwortung bei den Gutachter*innen\u201c verbleibt. Angeblich.<\/p>\n

Bei der Eingabe von Antr\u00e4gen oder vertraulichen wissenschaftlichen Daten in KI\u2011Systeme besteht das Risiko, dass diese Informationen nicht vollst\u00e4ndig kontrolliert oder gespeichert werden. Obwohl DFG\u2011Richtlinien Vertraulichkeit fordern, bleibt die technische Umsetzung anspruchsvoll und juristisch heikel. Oder haben wir unbegrenzt Zeit f\u00fcr das Review.<\/p>\n

<\/div>\n

Auch wenn die DFG betont, dass die Verantwortung bei den gutachtenden Personen bleibt, besteht die Gefahr, dass Bewertende kognitiv auf KI\u2011Ausgaben \u201everlassen\u201c (sog. cognitive offloading). Das kann dazu f\u00fchren, dass Gutachter*innen ihr eigenes kritisches Denken weniger anwenden, wodurch die Qualit\u00e4t der Begutachtung insgesamt leidet.<\/p>\n

Und nicht zuletzt – es gibt dokumentierte F\u00e4lle, in denen Forschende versuchen, KI\u2011gest\u00fctzte Reviewprozesse durch versteckte Prompt\u2011Techniken gezielt zu beeinflussen \u2013 ein Risiko, das bei Einsatz von KI\u2011Tools in Begutachtungen weiter zunehmen kann, wenn entsprechende Schutzmechanismen fehlen.<\/p>\n

Zum Gl\u00fcck ganz anders das European Research Counsil mit den Richtlinien zu ihren ERC Grants<\/a>.<\/p>\n

\"\"<\/a>
Screenshot 27.3.2026<\/figcaption><\/figure>\n

Die Richtlinien basieren auf zwei Grundprinzipien: der Nicht-\u00dcbertragung der Bewertungsaufgabe und dem strengen Schutz der Vertraulichkeit. Die Gutachter tragen die volle Verantwortung f\u00fcr die Beurteilung von Antr\u00e4gen und das Verfassen von Gutachten. KI-Tools d\u00fcrfen nicht verwendet werden, um Antr\u00e4ge zusammenzufassen, ihren wissenschaftlichen Wert zu beurteilen oder Gutachtenentw\u00fcrfe zu erstellen. Das Hochladen von Antr\u00e4gen oder Teilen davon in externe KI-Systeme ist untersagt, da dies vertrauliche Informationen an Dritte weitergeben w\u00fcrde.
\nBestimmte Nutzungsformen sind erlaubt. Gutachter d\u00fcrfen KI-Tools verwenden, um die sprachliche Qualit\u00e4t ihrer Berichte zu verbessern oder allgemeine Informationen zu recherchieren, sofern dabei keine Antragsunterlagen oder personenbezogenen Daten geteilt werden und keine Beurteilung delegiert wird.<\/p><\/blockquote>\n\n

 <\/p>\n

\n CC-BY-NC Science Surf , accessed 06.04.2026<\/span>\n <\/div>","protected":false},"excerpt":{"rendered":"

AI\u2011Systeme, jedenfalls wie sie heute existieren, beruhen ausschlie\u00dflich auf historischen Daten und statistischen Mustern aus bereits vorhandenem Wissen. Sie k\u00f6nnen nicht wirklich verstehen oder originell urteilen, sondern nur bekannte Konzepte extrapolieren. Dadurch fehlt ihnen die F\u00e4higkeit, bahnbrechende, noch nicht dokumentierte Ideen oder originelle wissenschaftliche Innovationen zu erkennen oder korrekt zu bewerten \u2014 was f\u00fcr die … Continue reading Die DFG torpediert sich selbst<\/span> →<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5],"tags":[],"class_list":["post-26111","post","type-post","status-publish","format-standard","hentry","category-philosophy-of-science"],"_links":{"self":[{"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/posts\/26111","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/comments?post=26111"}],"version-history":[{"count":7,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/posts\/26111\/revisions"}],"predecessor-version":[{"id":26250,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/posts\/26111\/revisions\/26250"}],"wp:attachment":[{"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/media?parent=26111"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/categories?post=26111"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/tags?post=26111"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}