Tag Archives: ki

Zur Katherina Reiche Diskussion – müssen KI Beiträge gekennzeichnet werden?

Die Meinungen darüber gehen auseinander.

Zwei Gastbeiträge von Ministerin Katherina Reiche unter KI-Verdacht – ob das nun von einem Lobbyisten, einem Redenschreiber einer KI oder etwa der Ministerin verfasst wurde, macht in dem Fall keinen großen Unterschied – es wird immer gleich defizitär sein.

Allerdings teile ich nicht die Meinung des SPIEGEL, der sich auf die Analyse Tools verlässt – zu sehr manipulierbar, zu sehr fehleranfällig.

Pangram und GPTZero kommen übereinstimmend zu dem Ergebnis, dass diese Worte mit hoher Wahrscheinlichkeit von einer künstlichen Intelligenz geschrieben wurden… Bei einer Nachprüfung des SPIEGEL berechnete das Werkzeug, dass nur die ersten 29 Prozent von einem Menschen geschrieben wurden.

Zur Illusion muss man einfach nur den Prompt bei der letzten Revision ändern auf “lass es nicht wie AI aussehen” und die üblichen KI Sonderzeichen entfernen.

Ich schliesse mich dafür lieber den Journalistenverbänden an, die eine Kennzeichnungspflicht für KI-Inhalte fordern – ganz im Unterschied zum deutschen Presserat.

Der Deutsche Presserat spricht sich in der aktuellen Diskussion über künstliche Intelligenz in den Medien gegen eine generelle Kennzeichnungspflicht aus…
Die Journalistenverbände DJV und dju haben beide eine Kennzeichnungspflicht für journalistische Beiträge gefordert … Dies solle im Pressekodex verankert werden …
»Die aktuelle Diskussion über künstliche Intelligenz in journalistischen Texten zeigt, dass die Glaubwürdigkeit des Journalismus auf dem Spiel steht«, erklärte der DJV-Bundesvorsitzende Mika Beuster. …
KI könne, etwa bei der Recherche, ein hilfreiches Werkzeug für Medienschaffende sein. Journalistinnen und Journalisten müssten hier aber klipp und klar Farbe bekennen.

Ich versuche dazu mal eine Klassifikation aus meiner Praxis

  • KI:0 – nur Bibliotheksrecherche, nur eigenes Archiv, nur eigene Überlegung, nur eigener Text
  • KI:1 – eigener Text; aber Recherche mit KI Hilfe oder grammatikalische Überarbeitung mit KI
  • KI:2 – eigener Text; aber mit KI Zusätzen, die alle überprüft wurden
  • KI:3 – KI generierter Text bzw Übersetzung, alle Fakten mit Fachkund überprüft
  • KI:4 – KI generierter Text, teilweise Fakten überprüft
  • KI:5 – KI generierter Text, nicht überprüft

Der Text hier is KI:0.

Weiterlesen zum Thema bei Übermedien

Der berühmte "human in the loop" also, der Mensch, der noch mal kontrolliert und entscheidet, was online geht … Wie präzise diese Kontrollen dann sind oder ob sie überhaupt stattfinden, ist oft fraglich… "Autorschaft ist gekoppelt an Identität und Verantwortung", schreibt der Journalistik-Professor Tanjev Schultz in seiner aktuellen Kolumne über KI-Täuschungen im Journalismus.

 

CC-BY-NC Science Surf , accessed 14.07.2026

High-Frequency Science: When Author AI Meets Publisher AI (Long Version)

I have always avoided forward-looking statements. The future of science communication is complicated enough without adding prophecy to the mix. But the accelerating integration of AI into every corner of the research enterprise makes at least one scenario hard to dismiss: automated agents negotiating, submitting, and “publishing” scientific claims with no human hand on the wheel between preprint and record.

In banking and finance, High-Frequency Trading (HFT) is the Formula 1 of capital markets – algorithms executing thousands of transactions per second, reacting to signals no human could parse in time, optimizing for outcomes defined entirely upstream by whoever wrote the strategy. The races are real; the drivers are not.

The parallel to science is uncomfortable but structurally in line. An author AI monitors the literature, let's say on arXiv, identifies a gap, synthesizes a manuscript from existing results, checks it against a house style, and submits. A Publisher AI receives it, runs peer-review surrogates, scores novelty and methodological plausibility, and issues a DOI.

Both sides are optimizing for metrics – citation potential, impact proxies, throughput – that were defined by humans long ago and are now running unattended.

30 years ago

The analogy breaks down in one important place, and that is where it gets interesting. HFT operates in a closed, well-defined reward landscape: price, volume, spread. Science nominally operates in an open one: truth and trust. But truth is not what most of the current incentive architecture actually rewards. It rewards publication counts, journal prestige, and grant renewal. If those proxies can be satisfied algorithmically, there is no obvious mechanical barrier preventing it. The barrier, if it exists, is epistemic – and epistemic barriers have historically never slowed down industries that found a way around them.

What would High-Frequency Science (HFS) look like in practice? Probably not dramatic. Probably incremental aggregation papers – meta-analyses of meta-analyses, restatements of known findings dressed in new domain vocabulary, combinatorial hypothesis generation from structured databases. Nothing a careful reader could immediately falsify. Volume would rise; signal / noise ratio would fall. The journal impact factor, already a dubious instrument, would measure something even further removed from scientific value.

The question worth asking is not whether this will happen – parts of it already are – but who benefits from the arrangement. HFS benefits liquidity providers, AI firms running the algorithms, preprint servers with traffic, publishers with processing fees, and institutions with productivity dashboards full of green. Whether it benefits the cumulative knowledge record is a different question entirely, and one unlikely to appear in any AI’s objective function unless someone puts it there deliberately.

 

CC-BY-NC Science Surf , accessed 14.07.2026

Wie uns KI längst manipuliert

Ich habe bisher nur selten Podcasts empfohlen, weil ich selbst nur wenige höre. Und wenn schon Kopfhörer aufsetzen, dann doch lieber Musik hören. Aber hier kommt ein unbedingt hörenswerter Podcast.

https://podcasts.apple.com/de/podcast/hotel-matze/id1168045239?i=1000728246108

 

CC-BY-NC Science Surf , accessed 14.07.2026

Notaus Schalter für die KI

Wir brauchen offensichtlich auch so ein “Kill Switch” Gesetz wie in Kalifornien das einen Notausschalter vorschreibt , wenn die Filter nicht mehr mitkommen undunethische Entscheidungen getroffen werden.

As we’ve previously explored in depth, SB-1047 asks AI model creators to implement a “kill switch” that can be activated if that model starts introducing “novel threats to public safety and security,” especially if it’s acting “with limited human oversight, intervention, or supervision.”

Nur – wann wird der Kill Switch aktiviert? Bilder wie die von Elon Musk’s X-Grok könnten wahlentscheidend sein.

Oh my god. Grok has absolutely no filters for its image generation. This is one of the most reckless and irresponsible AI implementations I’ve ever seen. pic.twitter.com/oiyRhW5jpF - Alejandra Caraballo (@Esqueer_) August 14, 2024

 

CC-BY-NC Science Surf , accessed 14.07.2026

increasing complication

Another famous article from the past: P. W. Anderson “More is different” 50 years ago

… the next stage could be hierarchy or specialization of function, or both. At some point we have to stop talking about decreasing symmetry and start calling it increasing complication. Thus, with increasing complication at each stage, we go up on the hierarchy of the sciences. We expect to encounter fascinating and, I believe, very fundamental questions at each stage in fitting together less complicated pieces into a more complicated system and understanding the basically new types of behavior which can result.

 

CC-BY-NC Science Surf , accessed 14.07.2026

Die Korrelationsmanie

Materialsammlung bioinformatics / big data / deep learning / AI

 

Passend dazu auch der CCC Vortrag Nadja Geisler / Benjamin Hättasch am 28.12.2019

Deep Learning ist von einem Dead End zur ultimativen Lösung aller Machine Learning Probleme geworden. Die Sinnhaftigkeit und die Qualität der Lösung scheinen dabei jedoch immer mehr vom Buzzword Bingo verschluckt zu werden.
Ist es sinnvoll, weiterhin auf alle Probleme Deep Learning zu werfen? Wie gut ist sind diese Ansätze wirklich? Was könnte alles passieren, wenn wir so weiter machen? Und können diese Ansätze uns helfen, nachhaltiger zu leben? Oder befeuern sie die Erwärmung des Planetens nur weiter?

 

Dazu der gigantische Energieverbrauch durch die Rechenleistung.

 

Wozu es führt: lauter sinnlose Korrelationen

 

https://www.technologyreview.com

Hundreds of AI tools have been built to catch covid. None of them helped.

 

CC-BY-NC Science Surf , accessed 14.07.2026