Tag Archives: ai

Philosophy, Theology, written with AI support

AI is killing humans

There is a new paper of Rainer Rehak and Taylor Kate Woodcock. “Automating civilian harm: On Israel's use of the AI-enabled targeting system Lavender in Gaza and International Humanitarian Law. 2026 ACM Conference, 10.1145/3805689.3812357” that has some cruel details expanding on the current Wikipedia entry on AI-assisted targeting in the Gaza Strip.

The information depends on investigative journalism, built on anonymous IDF sources and leaked documents, but not independent forensic access. So there may be some limitations but this is all we know. The IDF’s response is consistently reported as a partial denial: the IDF stated some claims were baseless while others reflected a flawed understanding of IDF directives, describing a human-controlled process. There are three distinct systems.

  • Lavender is an “AI-powered database” which lists tens of thousands of Palestinian men linked by AI to Hamas or Palestinian Islamic Jihad, used for target recommendation
  • Gospel automatically reviews surveillance data looking for buildings and equipment thought to belong to the enemy and recommends bombing targets. One officer told the Guardian “I would invest 20 seconds for each target at this stage, and do dozens of them every day. I had zero added-value as a human, apart from being a stamp of approval.”
  • Where’s Daddy? is designed specifically to strike people at home with family present, because it was operationally easier than catching them during military activity.

Rehak and Woodcock now write

The digital infrastructure necessary for collecting, storing, and processing the data is provided by large US companies. The cloud storage of approximately 13.6 petabytes (13,600 terabytes) is provided by Google and Amazon under the name Project Nimbus. Cisco, Dell and Red Hat/IBM provide additional IT services. Palantir is responsible for integrating data from heterogeneous sources, and the AI applications are provided by Microsoft/OpenAI and Google; however not without internal resistance. To ensure optimal collaboration between the companies and the Israeli military, there are various personnel overlaps, e.g. Microsoft employees are also part of Unit 8200 of the IDF or regularly switch roles.

Their central finding is that the systems fail all three by design, not by accident. Reported configuration details they cite: thresholds for what counts as a “target” are adjusted up or down purely to hit a daily quota; pre-set tolerances allow roughly 15 civilian deaths per “junior” target and far more for “senior” targets; cheap, imprecise munitions are deliberately used on lower-value targets; and human review of each AI-generated target reportedly takes around 20 seconds, often just confirming the target’s sex. Internal IDF checks reportedly found about a 10% misidentification rate by the military’s own loose criteria.

The authors argue this combination amounts to a “reckless disregard” for distinction (people are targeted on statistical resemblance, not verified conduct), a failure of precautions (known error-prone, brittle systems are used uncritically at speed and scale), and very likely disproportionate harm given the resulting civilian death toll. They conclude that “targeted killing” is a misleading label for what they characterize as a more indiscriminate, quota-driven process, and that - given Israel’s technical sophistication - the high civilian toll is more plausibly a deliberate policy choice than an unintended side effect.

The cynical naming convention (Lavender, Gospel, Where’s Daddy?) sits awkwardly next to the lethality the AI systems used.

As if that weren’t enough, there seems to be another system not mentioned by Rehak and Woodcock called “Server in the Sky” (SITS) on drone fleets attributed to Haaretz reporting earlier this month. It deployed across Hermes 450 and 900 drones, designed to process intelligence and detect/classify targets in real time.

According to the documents, the algorithm independently analyzes the intelligence gathered by the drones’ sensors and cameras, automatically detecting targets, classifying them and deciding whether to track them or pass them on - to the command center, air force pilots or troops on the ground.
The server and the analytics it runs also allow the drone fleet to be managed autonomously, handing over tasks as the drones surveil a defined sector, shifting the burden among these unmanned aircraft to maintain continuous visibility.

So far neither ICJ (International Court of Justice) nor ICC (International Criminal Court) has so far issued a ruling that evaluates the Lavender/Gospel/Where’s-Daddy systems specifically as evidence – the charges so far center mainly on starvation as a weapon, destruction of infrastructure, and the overall casualty count.

Why does the reporting on the AI systems circulates only in NGO and academic analyses but has neither reached the public nor the ICJ? Germany accepts drone research projects and exports as this is prohibited only for systems that operate completely outside human control.

In Terror (2015) von Schirach has a pilot decide whether to shoot down a hijacked airliner heading for a packed stadium, killing 164 passengers to save tens of thousands. Germany’s Federal Constitutional Court had already ruled this unconstitutional: such a shoot-down violates the inviolable human dignity (Art. 1 GG) and right to life (Art. 2 GG) of the innocent passengers – a person may never be reduced to a mere calculation. It’s an absolute prohibition, not a proportionality balance; you simply don’t weigh lives against lives. That’s the sharp contrast with the IDF system that does the opposite. It pre-configures civilian deaths as tolerable collateral (15 for “junior,” hundreds for “senior” targets), not even as an emergency judgment under pressure like von Schirach’s pilot, but as a routine, repeatable daily setting.

 

CC-BY-NC Science Surf , accessed 14.07.2026
Philosophy, Software

Time to re-visit Naomi Klein

This is certainly one of the strongest AI pieces ever written: AI machines aren't 'hallucinating'. But their makers are,

She writes

The trick, of course, is that Silicon Valley routinely calls theft "disruption" - and too often gets away with it. We know this move: charge ahead into lawless territory; claim the old rules don't apply to your new tech; scream that regulation will only help China - all while you get your facts solidly on the ground… We saw it with Google's book and art scanning. With Musk's space colonization. With Uber's assault on the taxi industry. With Airbnb's attack on the rental market. With Facebook's promiscuity with our data.

Must read also Lila Shroff

Plenty of people are seemingly starting to feel like depleted AI babysitters… workers were experiencing "mental fatigue from excessive use or oversight of
AI tools beyond one's cognitive capacity.

 

CC-BY-NC Science Surf , accessed 14.07.2026
Joke, written with AI support

Markus Blume und die künstliche Intelligenz

Bayern hat beschlossen, das Verbot von Künstlicher Intelligenz bei Hochschulprüfungen zu verbieten. Sprachlich ein Meisterwerk, führt das inhaltlich zu der naheliegenden Frage: Wenn in der Prüfung ohnehin jedes Sprachmodell mitschreiben darf, warum prüfen wir dann überhaupt noch?

Kernkompetenz. Wir brauchen auch weiterhin Leistungsnachweise, um sicherzustellen, dass die Studierenden gelernt haben, die richtige KI mit dem richtigen Prompt zu bewegen. Wer den Bachelor besteht, hat bewiesen, dass er ein Sprachmodell unter Aufsicht bedienen kann, ohne dass es halluziniert. Eine Schlüsselqualifikation des 21. Jahrhunderts, und die gehört zertifiziert.

Klimaschutz. Solange Tausende Studierende gleichzeitig dieselbe Frage an dasselbe Rechenzentrum schicken, wissen wir wenigstens, wofür der Strom verbraucht wird. Ohne festen Prüfungstermin liefen die Grafikkarten ja völlig planlos heiß, so kann man die Antworten komplett aus dem Cache ziehen. Der synchronisierte Klausurtermin ist im Grunde angewandte Energiepolitik.

Und dann die soziale Funktion. Ohne Prüfungsangst wüssten ganze Studierendenjahrgänge nicht mehr, wofür sie um drei Uhr nachts wach liegen sollen. Man kann den Menschen nicht einfach die letzte verlässliche Quelle existenzieller Demut nehmen, die das Bildungssystem noch bereithält.

Die Verwaltung. Was würde bitte aus den Prüfungsämtern? Eine Verwaltung, die nichts mehr zu verwalten hat, ist eine Verwaltung, die über sich selbst nachdenken müsste. Dieses Risiko will wirklich niemand eingehen.

Endlich Fairness. Alle dürfen jetzt KI benutzen, also alle dieselbe Chance, sich auf dasselbe Modell zu verlassen, das bei allen denselben Fehler macht. Chancengleichheit war noch nie so leicht herzustellen. Für die Abschlussprüfung an den 5 Musikhochschule erlaubt Bayern jetzt auch das Vorspielen von mp3 Files und an der Otto Falckenberg Schule YouTube Videos.

Fazit. Abschaffen geht also nicht. Wir behalten die Prüfung, nehmen ihr nur jeden verbliebenen Zweck und nennen das dann Hochschulinnovationsgesetz. Bayern, Vorreiter des digitalen Wandels.

 

 

 

Postscriptum 11.7.2026

Wir lernen daraus: Was für einen bayrischen Politiker völlig normal und wünschenswert ist, wird andernorts als Betrug geahndet.

https://www.dmz-news.online/2026/07/11/wenn-die-pruefung-nicht-mehr-zeigt-was-studierende-wissen/

Screenshot 11.7.2026

 

Könnte der Wissenschaftsminister vielleicht mal kurz mit seinem Kultusminister reden, der gegen Betrug beim Abitur massiv vorgeht? Denn hier

dürfen auf dem Pult nur Papier und Stifte liegen, die die Schule geprüft hat. “Alles andere, Essen, Trinken, Stofftiere als Maskottchen und Glücksbringer, muss auf den Boden gestellt werden, weil sich dort kleine Kameras befinden könnten”, sagt er. Jacken, Taschen und elektronische Geräte lagern in einem anderen Raum. Auch für die Kleidung gibt es Vorgaben: Blusen und Hemden sind im Abi nicht erlaubt. Auch dort könnten Mini-Kameras angebracht sein. Falls sich jemand nicht daran hält, hat die Schule vorgesorgt: Wir haben dann so Leibchen, die man aus dem Sportunterricht kennt, eine Art Trikot, die bitten wir dann die Schüler überzuziehen.

 

CC-BY-NC Science Surf , accessed 14.07.2026
Noteworthy

Leiden Declaration on Artificial Intelligence and Mathematics

Without doubt, the new Leiden Declaration on AI use is a clear step forward.

Without doubt, scientific results are always attributable to specific authors who take credit for their discovery and assume also responsibility.

Without doubt, revising my text by an AI (adding occasionally a point or removing one for being unqualified) benefits my programming and writing.

So AI support is indicated now not only in all recent papers but also for blog entries since March 2026.

 

CC-BY-NC Science Surf , accessed 14.07.2026
Philosophy

High-Frequency Science: When Author AI Meets Publisher AI (Long Version)

I have always avoided forward-looking statements. The future of science communication is complicated enough without adding prophecy to the mix. But the accelerating integration of AI into every corner of the research enterprise makes at least one scenario hard to dismiss: automated agents negotiating, submitting, and “publishing” scientific claims with no human hand on the wheel between preprint and record.

In banking and finance, High-Frequency Trading (HFT) is the Formula 1 of capital markets – algorithms executing thousands of transactions per second, reacting to signals no human could parse in time, optimizing for outcomes defined entirely upstream by whoever wrote the strategy. The races are real; the drivers are not.

The parallel to science is uncomfortable but structurally in line. An author AI monitors the literature, let's say on arXiv, identifies a gap, synthesizes a manuscript from existing results, checks it against a house style, and submits. A Publisher AI receives it, runs peer-review surrogates, scores novelty and methodological plausibility, and issues a DOI.

Both sides are optimizing for metrics – citation potential, impact proxies, throughput – that were defined by humans long ago and are now running unattended.

30 years ago

The analogy breaks down in one important place, and that is where it gets interesting. HFT operates in a closed, well-defined reward landscape: price, volume, spread. Science nominally operates in an open one: truth and trust. But truth is not what most of the current incentive architecture actually rewards. It rewards publication counts, journal prestige, and grant renewal. If those proxies can be satisfied algorithmically, there is no obvious mechanical barrier preventing it. The barrier, if it exists, is epistemic – and epistemic barriers have historically never slowed down industries that found a way around them.

What would High-Frequency Science (HFS) look like in practice? Probably not dramatic. Probably incremental aggregation papers – meta-analyses of meta-analyses, restatements of known findings dressed in new domain vocabulary, combinatorial hypothesis generation from structured databases. Nothing a careful reader could immediately falsify. Volume would rise; signal / noise ratio would fall. The journal impact factor, already a dubious instrument, would measure something even further removed from scientific value.

The question worth asking is not whether this will happen – parts of it already are – but who benefits from the arrangement. HFS benefits liquidity providers, AI firms running the algorithms, preprint servers with traffic, publishers with processing fees, and institutions with productivity dashboards full of green. Whether it benefits the cumulative knowledge record is a different question entirely, and one unlikely to appear in any AI’s objective function unless someone puts it there deliberately.

 

CC-BY-NC Science Surf , accessed 14.07.2026
Noteworthy

KI als Provokation für den Glauben?

Unter dem Titel – wenn auch ohne Fragezeichen – steht auf Feinschwarz ein lesenswerter Beitrag.

Beiträge aus den Kirchen hingegen sind rar und erschöpfen sich in der Regel in allgemeinen Appellen: KI müsse ethischen Grundsätzen genügen und der Menschenwürde dienen (Rome Call for AI Ethics, Vatikan, 2020), dürfe nicht über Tod und Leben von Menschen entscheiden (Antiqua et nova, Vatikan, 2025) und müsse der menschlichen Freiheit dienen (Freiheit digital, EKD, 2021). …
Bislang jedenfalls reichen die Thesen der kirchlichen Verantwortungsträger nicht bis in die Gemeinden hinein: auf der Kanzel und am Ambo, in KFD und Seniorengruppen ist Künstliche Intelligenz bislang nur selten Thema. Diese pastorale und theologische Lücke ist fatal. Denn die Provokation durch KI zielt nicht nur auf Ethik und Gesellschaft, sondern ins Herz des christlichen Glaubens selbst.

Nicht nur, dass ich auch schon erlebt habe, daß eine Predigt verdächtig nach KI klang; auch ich selbst habe erst letzte Woche von chatGPT etwas wissen wollen (nämlich wie die kognitive Disssonanz von Erwählung und kriegführenden Gott in Joel 32 und die Aussagen der Bergpredigt bei Evangelikalen wie John Stott aufgelöst wird – es kam nur blabla).

Meistens können wir aber, wie Michael Brendel richtig schreibt, mit den Antworten etwas anfangen. KI hat mehr theologische Bücher wie ich inkorporiert und “kennt” die Bible besser als ich. Und damit haben wir eine massive Provokation für den Glauben, denn KI ist wortgläubiger, als wird denken.

Der Johannesprolog bringt eine Hauptaussage des Neuen Testaments auf den Punkt: Dass das Wort göttlich ist. Gott zeigt sich nicht nur in Dornbüschen, Feuersäulen und Naturkatastrophen, sondern er kommuniziert verbal mit den Menschen. Die Gläubigen auf der anderen Seite können ihre Anliegen, ihr Lob und ihre Klagen über das Wort vor Gott bringen. Offenbarung, Liturgie und Lehre sind sprachlich vermittelt. Sakramente erlangen erst durch Worte ihre Gültigkeit. Und schließlich: Der Logos, das göttliche Wort, ist in Jesus Christus Mensch geworden. Das Wort Gottes wirkt also in der Sinn-, Heils- und Offenbarungsdimension. Und in diese Zone dringt nun Künstliche Intelligenz ein. Seit 2022 kommunizieren nicht mehr nur Menschen mit Menschen über das Medium Wort, nicht mehr nur Gott und Mensch. Seit der Veröffentlichung von ChatGPT gibt es eine kommunikative Instanz, die über Sprache Bedeutung schafft.

KI redet dabei sehr opportunistisch – jedenfalls die drei LLMs, die ich als Referenz hier habe. Sprachmodelle lernen aus massiven Mengen menschlicher Texte wo die (schriftlichen) häufigsten Muster in Dialogen eben sind: zustimmen, erklären, beschwichtigen, freundlich sein. Wenn ein Thema unklar, strittig oder risikobehaftet ist, wählen Modelle oft risikoloseste Antwort. Das wirkt wie Nach-dem-Mund-Reden, ist aber eigentlich nur eine Absicherungsstrategie. Und natürlich hat ein Modell hat keine eigenen Überzeugungen (wenn es nicht gerade wie Grok in eine bestimmte Richtung kanalisiert wird) sondern wird nur die statistisch wahrscheinlichste Antwort produzieren.

Ohne eine eigene Position kann ein LLM nicht "widersprechen", die meisten Dreijährigen können das besser!

Die evangelische Publizistin Johanna Haberer etwa fragt pointiert, ob der Mensch sich mit KI nicht ein Ebenbild schaffe, so wie Gott sich mit den Menschen ein Ebenbild geschaffen habe. Natürlich ist der Unterschied zwischen beiden Schöpfungsakten fundamental. Ihre Schlussfolgerung trifft aber ins Schwarze: Hier wie dort stelle sich die Frage nach Verantwortung und Kontrolle.

Johanna Haberer, einer der beiden Pfarrerstöchter, trifft in der Tat den Punkt. Und so können wir auch die 3 Fragen von Brendel eindeutig beantworten.

Wie weit ist es vom Status Quo bis zur göttlichen Allwissenheit?

KI ist nur da beeindruckend wo es um gedruckte Texte geht und ihre seelenlose Reproduktion. Da immer wieder Halluzinationen auftreten, kann man:frau sich nicht auf Antworten verlassen.

KI hat schon heute Macht. Wird diese irgendwann zur Allmacht?

Da bleibe ich skeptisch, siehe Antwort auf die letzte Frage – Sprachmodelle werden immer unsere Kontrolle brauchen.

KI-Chatbots sind immer erreichbar, immer freundlich, immer hilfsbereit und scheinbar stets auf der Seite der Anwender*innen - Ist das vielleicht schon Allgüte?

Natürlich nicht – es ist die Absicherungsstrategie von oben. Nota bene:

https://doi.org/10.1038/s42256-019-0114-4

 

 

CC-BY-NC Science Surf , accessed 14.07.2026
Joke

It's not theft

Source https://mastodon.social/@GossiTheDog@cyberplace.social/115447554094510911 28Oct25

 

CC-BY-NC Science Surf , accessed 14.07.2026
One World

Digitale Souveränität

Ein phänomenal guter Artikel von Markus Beckedahl

Vier Engpässe der digitalen Abhängigkeit
Cloud und Datenräume.
Kommunen, Kliniken, Universitäten speichern hochsensible Daten bei wenigen Hyperscalern. Google. Microsoft. Amazon. Preisänderungen, API-Zäune, proprietäre Formate. Der "Hotel-California-Effekt": Einchecken geht leicht. Auschecken fast nicht.
Plattform-Öffentlichkeit.
Sichtbarkeit wird verkauft - nicht verdient. Empörung skaliert besser als Nuance. Weil Empörung Aufmerksamkeit bringt. Und Aufmerksamkeit bringt Werbegeld.
Hardware und Chips.
Lieferketten sind fragil. Fällt ein Werk in Asien aus, spürt Europa es in Unternehmen und Fabriken. Und Trump droht bereits, Exportbeschränkungen auf Chips zu verhängen: Wenn wir in Europa unsere Regeln zur Plattformregulierung durchsetzen.
Software-Monokulturen.
Standard-Pakete von Microsoft dominieren Verwaltungen und Bildung. Lock-in frisst Innovationskraft, und damit auch unsere Verhandlungsmacht.
Konsequenz:
Wir sind erpressbar. Preislich. Technisch. Ökologisch. Politisch.

lesen!

 

 

CC-BY-NC Science Surf , accessed 14.07.2026
Joke

Is there a seahorse emoji?

Ask this question chatGPT – and it starts rattling like a shaken pinball machine…

first discovered by https://x.com/voooooogel/status/1964465679647887838

Here is an explanation of that phenomenon by Brian Huang

if the model wants to output the word “hello”, it needs to construct a residual similar to the vector for the “hello” output token that the lm_head can turn into the hello token id. and if the model wants to output a seahorse emoji, it needs to construct a residual similar to the vector for the seahorse emoji output token(s) – which in theory could be any arbitrary value, but in practice is seahorse + emoji in word2vec style.
The only problem is the seahorse emoji doesn’t exist! So when this seahorse + emoji residual hits the lm_head, it does its dot product over all the vectors, and the sampler picks the closest token – a fish emoji.

For an even longer version see [here].

Bonus 1 – here is a my seahorse image taken at the Musée océanographique de Monaco last week from its wonderful collection. Let's forget the virtual world and preserve the real one.

image taken at the Musée océanographique de Monaco (c) 2025.

Bonus 2 – the answer to a long-standing question: The origin of male seahorses' brood pouch!

 

CC-BY-NC Science Surf , accessed 14.07.2026
Noteworthy, Software

Fighting AI with AI

Here is our newest paper – a nice collaboration with Andrea Taloni et al. along with a nice commentary – to recognize surgisphere-like fraud

Recently, it was proved that the large language model Generative Pre-trained Transformer 4 (GPT-4; OpenAI) can fabricate synthetic medical datasets designed to support false scientific evidence. To uncover statistical patterns that may suggest fabrication in datasets produced by large language models and to improve these synthetic datasets by attempting to remove detectable marks of nonauthenticity, investigating the limits of generative artificial intelligence.

[…] synthetic datasets were produced for 3 fictional clinical studies designed to compare the outcomes of 2 alternative treatments for specific ocular diseases. Synthetic datasets were produced using the default GPT-4o model and a custom GPT. Data fabrication was conducted in November 2024. Prompts were submitted to GPT-4o to produce 12 "unrefined" datasets, which underwent forensic examination. Based on the outcomes of this analysis, the custom GPT Synthetic Data Creator was built with detailed instructions to generate 12 "refined" datasets designed to evade authenticity checks. Then, forensic analysis was repeated on these enhanced datasets. […]

Sufficiently sophisticated custom GPTs can perform complex statistical tasks and may be abused to fabricate synthetic datasets that can pass forensic analysis as authentic.

 

 

CC-BY-NC Science Surf , accessed 14.07.2026
Software

How to recognize an AI image

Lensrental has some great advice

Quantity Based: One of the continual problems the AI art generation faces is in quantity, though it is continually improving. For instance, in the past, AI art would struggle with getting the correct number of fingers correct, or perhaps the correct placement of knuckles and joints in the fingers.

General Softness & Low Resolution: AI art takes immense computing power to generate, and it still hasn't streamlined this problem. So often, AI art is limited in resolution and detail.

Repetition: To further expand on the tip above, AI art often uses repetition to help speed up the generation process. So you may see something copied several times over the same image.

Asymmetry: Asymmetry exists in all facets of life, [… if you] photograph the building so that it looks symmetrical across the plane. AI doesn't understand these rules and often creates subtle symmetry shifts in its images.

TBC

 

CC-BY-NC Science Surf , accessed 14.07.2026
Philosophy, Software

Is it a crime to use AI for peer review?

I consult the almighty chatGPT frequently for additional information as this saves me hours of wading through my own database, Pubmed, Scholar and Goggle Hits.

But I have my own opinion, I never cut & paste as this is always running at risk (1) to plagiarize unknowingly and (2) to produce nonsense.

Miryam Naddaf has an article about this

In a survey of nearly 5,000 researchers, some 19% said they had already tried using LLMs to 'increase the speed and ease' of their review. But the survey, by publisher Wiley, headquartered in Hoboken, New Jersey, didn't interrogate the balance between using LLMs to touch up prose, and relying on the AI to generate the review.

And well, maybe I am already sticking to the NEJM that said

Although human expert review should continue to be the foundation of the scientific process, LLM feedback could benefit researchers

 

CC-BY-NC Science Surf , accessed 14.07.2026
Noteworthy

chatGPT halluziniert

... mal wieder, sogar bei der simplen Frage, warum die Kette am Fahrrad rechts montiert wird. chatGPT 4o jedenfalls argumentiert so

Standardisierung und Tradition. Fahrräder wurden historisch so entwickelt, dass die Kette rechts sitzt, da die meisten Menschen Rechtshänder sind und es sich für die Bedienung von Gangschaltung und Wartung als praktischer erwies.

Die Aussage, daß die meisten Menschen Rechtshänder sind, stimmt natürlich. Die Begründung aber ist falsch, denn man könnte ja auch links schalten – das muss man auch mit den wunderbaren Rahmenschaltern an den italienischen Klassikern. Und für die Wartung ist es auch egal, ob die Kette nun rechts oder links läuft.

Mechanische Vorteile. Die rechte Seite der meisten Fahrräder ist für den Antrieb optimiert (Kettenblatt, Kassette, Schaltwerk). Links ist die Kurbel meist frei von Zahnrädern, was eine symmetrische Kraftübertragung auf die Pedale ermöglicht. Die meisten Kettenantriebe drehen sich im Uhrzeigersinn (von rechts gesehen), was mit der traditionellen Konstruktion kompatibel ist.

Das ist auch irgendwie Quatsch und erklärt zudem überhaupt nichts.

Sicherheits- und Wartungsaspekte. Die rechte Kettenposition hält den Fahrer auf der vom Bordstein abgewandten Seite frei von Kettenfett.

chatGPT fährt offensichtlich im Linksverkehr? Es kommen immer irgendwie relevante Gesichtspunkte, ohne dass der Sachverhalt aber "verstanden" wäre.

Continue reading chatGPT halluziniert →

 

CC-BY-NC Science Surf , accessed 14.07.2026
Noteworthy

AI is using copyrighted material

We know it for years: LLMs are trained by copyrighted material. But we should never forget: Aaron Swartz, a copyright activist lost his life. And so did Suchir Balaji (his parents do not believe in a suicide). And another activist Alexandra Elbakayan is being prosecuted for years.

So how can LLMs of all kind now make money of copyrighted text and images bypassing all rules? The Guardian about OpenAI

The developer OpenAI has said it would be impossible to create tools like its groundbreaking chatbot ChatGPT without access to copyrighted material, as pressure grows on artificial intelligence firms over the content used to train their products.

The New York Times about Suchir Balaji

But after the release of ChatGPT in late 2022, he thought harder about what the company was doing. He came to the conclusion that OpenAI's use of copyrighted data violated the law and that technologies like ChatGPT were damaging the internet. In August, he left OpenAI because he no longer wanted to contribute to technologies that he believed would bring society more harm than benefit.

Are there still copyright rules in place?

Probably. Getty Images is now suing Stable Diffusion, Facebook is using LibGen although they had to pay recently 30m penalties. Universal Music filed a lawsuit against Anthropic and NYT against OpenAI. At least a dozen of court cases are ongoing.

But I haven’t heard so far of any action of a major medical publishers against any AI company (including the company who sued Elbakayan). They must have a different strategy – instead of suing they just sell their content even behind the back of the authors. This is what Christa Dutton found out.

One of those tech companies, Microsoft, paid Informa, the parent company of Taylor & Francis, an initial fee of $10 million to make use of its content "to help improve relevance and performance of AI systems," according to a report released in May… Another publisher, Wiley, also recently agreed to sell academic content to a tech company for training AI models. The publisher completed a "GenAI content rights project" with an undisclosed "large tech company," according to a quarterly earnings report released at the end of June

But can publishers just do this without asking authors? authorsalliance.org has an answer.

In a lot of cases, yes, publishers can license AI training rights without asking authors first. Many publishing contracts include a full and broad grant of rights-sometimes even a full transfer of copyright to the publisher for them to exploit those rights and to license the rights to third parties.

We had been too naive.

Or we have been blackmailed.

 

14/23/25

There was never fair use … https://arstechnica.com/tech-policy/2025/03/openai-urges-trump-either-settle-ai-copyright-debate-or-lose-ai-race-to-china/ … while I now fear that this will be decided by politics not by courts.

 

20/3/2025

https://www.theatlantic.com/technology/archive/2025/03/libgen-meta-openai/682093/ writes

Meta employees acknowledged in their internal communications that training Llama on LibGen presented a "medium-high legal risk," and discussed a variety of "mitigations" to mask their activity.

leading to the paradoxical situation

LibGen and other such pirated libraries make information more accessible, allowing people to read original work without paying for it. Yet generative-AI companies such as Meta have gone a step further: Their goal is to absorb the work into profitable technology products that compete with the originals.

 

CC-BY-NC Science Surf , accessed 14.07.2026