Category Archives: Philosophy

Noteworthy, Philosophy, Software, with minor/major AI support

Scientific integrity investigators are the last resort

It's basically the same scene – backoffice journalists are fact checking reports. OSINT experts are verifying satellite and ground images. Science sleuths reanalyze numbers and tables in scientific publications. The stakes are high as integrity investigators are the last resort, the papers have passed already all quality checks at journals. It is a bit like the old "sub umbra dei" saying, there is only god behind them. And there is no room for error.

In the science integrity scene there are many mavericks or let's say colorful people. Most come from inside academia, starting or ending a career there. Some are from far outside it, and their motives are ranging from methodological curiosity, financial gain to personal grievance. What holds the field together is therefore not a shared background but a shared refusal to accept a published claim on authority of a journal alone. That heterogeneity is a strength for detection but also a weakness for credibility, because any single overreaching claim by one investigator is readily used to discredit the rest as "Pubpeer Mob". Again the stakes are high: A minor error in a published paper costs the author a correction. An unfounded allegation can cost a career, and it costs the field its licence to speak out. That asymmetry sets the working rules. There are no ten commandments but there are some working rules.

Methodological rigour comes first: every claim must be stated so that a third party can check it against the same source material and arrive at the same result. Image duplications get exact border coordinates, statistical objections need the extracted values on which a test was run. An eyeballed duplication anomaly is not a finding per se. Distribution checks only carry weight when the reported summary statistics, rounding conventions and sample sizes are documented well enough for someone else to replicate them. Replication is key not only for original work but also for post publication review.

Relevance is also a filter as much as rigour is. Typographical slips, reference-list errors, image panel mix up and stylistic issues dilute the serious concerns and shift the discussion from the science to the tone of the critic. These errors are annoying of course and do not add to the credibility of authors. But what really matters is whether a defect could change the value of a report and its conclusions: fabricated or duplicated data, misinterpreted assays and conditions, results incompatible with the stated design, analyses that cannot have produced the reported numbers, undisclosed conflicts that are directly related on interpretation. These are the high scores not the 1,800 issues produced by some automated software tool.

Everything else stays out. Statements about what the authors intended, whether they are competent, or what a pattern of errors implies about them are not verifiable. Even subtle threats are inappropriate; jokes and sarcastic comments are not wanted, I have learned that in the past. The finding that some numbers do not reconcile, that images have been used before, that the trial registration postdates the enrollment: this is the relevant stuff. Whether this arose from fraud, sloppiness, wrong antibody batch or software error is for the institution or editorial staff to verify, not for the sleuth writing the comment. Only journals, institutions or courts can ask questions that must be answered; the sleuth can document, but cannot compel a response. Usually he never gets access to raw data, neither can he interview a senior coauthor or a president which remains in the domain of journalists.

That limitation is worth holding on up, because it defines what a post-publication review can honestly claim: the published record, as it stands, does not add up. It can classify the level of the integrity violation but not claim to know why an issue occured. Fervour is the occupational hazard of the integrity field that is damaging: the investigator who is right about 99 findings and overstates the hundredth hands every previously criticised author a reason to dismiss the rest.

Restraint is not politeness, it is the condition under which the work retains its force.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Noteworthy, Philosophy, Software, with minor/major AI support

Scientific publishing in the age of interacting AIs

I will not repeat here what I already wrote about author vs journal interaction (here).

What I can share here is an ongoing review process where I but also a reviewer is now using a LLM – leading to pointless conversation.

Related in silico work has already been published by Anthropic scientists – they asked the agents to peer-review each other’s findings in a “build a game” experiment. Excerpt

When we humans learn new information, we use our discretion in determining how to apply it to future decisions. We might consider the content of the information itself, like how consistent it is with what we already know, or whether it appeals to our values-or we might consider the source, e.g. how historically reliable it has been, and whether it has a vested interest in changing our beliefs. Our world contains deceptive actors, and we need to apply skepticism to guard against them. AI models, however, lack this-and their more brittle epistemics affect their behavior toward humans and toward each other.

AI agents, while broadly knowledgeable, have limited exposure to or defenses against exploitative senders. Most applications test their capabilities in instruction-following settings, where their sole objective is to fulfill users' requests. But accumulated experience is needed to develop intuitions about who is trustworthy. As we move into a regime of multiagent interaction, where the presence of malicious actors is no longer speculative, we wonder: in the right setting, would agents be capable of similar epistemic vigilance?

In the aftermath I think, I should have included some whitespace LLM instructions as had been done now by a congress organizer [details at Casrai and Nature]. So the only thing I can share now is a semantic analysis of a reviewer who suddenly uses a LLM reviewing my farming manuscript.

In rounds 1 and 2 the use of a LLM can be ruled out. There are numerous errors, of kinds that instruction-tuned models essentially never emit:

  • Homophone substitution: “Where they really excluded?” for “Were”
  • Typos: “invididual”, “persona exposure”, “residental”
  • Number disagreement: “many paper have”, “these comparison”, “criteria … is not specified”
  • Article omission: “Present paper by-passes”, “Author fails”, “may be major reason”, “some of first studies”
  • Infinitive error: “makes the reader to wonder”

Yes – quite aggressive. Layered on that is a consistent signature pointing to German or Finnish: comma before an embedded interrogative or conditional (“interesting to learn, how fast”, “may be major reason, why classification”, “labeled as stratified, if they were”), the calque “Is it so that …”, German constituent order.

But by the third round the very same reviewer #2 appears unsettled, plausibly because his earlier objections had not landed. The prose changes at exactly that point. Not one of the 56 sentences he wrote in rounds 1 and 2 contains a semicolon; two of his eight round-3 sentences do (Fisher exact p = 0.014). Hardly rocket science, but it is a real discontinuity, and the orthography flips alongside it, from repeated “labeled” to “labelled”.

The argument drifts too, with amnesia. In round 2 the complaint was that rural-restricted studies had been wrongly labelled stratified. In round 3 the complaint is that rural-restricted studies have been wrongly labelled representative.

Most striking, a full sentence is carried over from Reviewer 1’s report of the previous round. Reviewer 1 wrote: “strong statements about previous literature, conflicts of interest, and possible publication bias. These points may be relevant, but they should be expressed in a more neutral and evidence-based tone.” In round 3 this reappears, now from the anonymous reviewer 2 as: “Strong statements about previous literature, conflicts of interest, and possible publication bias should be expressed in a more neutral and evidence-based tone.”

The evidence is thin, but the round-3 comments read less like a reviewer who has re-read the manuscript or the rebuttal – it sounds like a reviewer whose objections have been freshly assembled by a tool.

So arguing we in future paper submission increasingly against LLMs?

A Frontiers survey of over 1,600 academics found that 53% of peer reviewers have used AI tools in their work. Note also that Springer Nature instructs peer reviewers not to upload manuscripts into generative AI tools, emphasising that manuscripts contain confidential and sensitive information.

BMC Public Health is Springer Nature: If my reviewer #2 pasted my manuscript into a model, that is a policy breach independent of whether the resulting comments were any good.

Screenshot The 2026 Future of Peer Review Report https://www.silverchair.com/news/future-of-peer-review-2026/

 

 

CC-BY-NC Science Surf , accessed 16.09.2026
Philosophy, Theology, with minor/major AI support

AI is killing humans

There is a new paper of Rainer Rehak and Taylor Kate Woodcock. “Automating civilian harm: On Israel's use of the AI-enabled targeting system Lavender in Gaza and International Humanitarian Law. 2026 ACM Conference, 10.1145/3805689.3812357” that has some cruel details expanding on the current Wikipedia entry on AI-assisted targeting in the Gaza Strip.

The information depends on investigative journalism, built on anonymous IDF sources and leaked documents, but not independent forensic access. So there may be some limitations but this is all we know. The IDF’s response is consistently reported as a partial denial: the IDF stated some claims were baseless while others reflected a flawed understanding of IDF directives, describing a human-controlled process. There are three distinct systems.

  • Lavender is an “AI-powered database” which lists tens of thousands of Palestinian men linked by AI to Hamas or Palestinian Islamic Jihad, used for target recommendation
  • Gospel automatically reviews surveillance data looking for buildings and equipment thought to belong to the enemy and recommends bombing targets. One officer told the Guardian “I would invest 20 seconds for each target at this stage, and do dozens of them every day. I had zero added-value as a human, apart from being a stamp of approval.”
  • Where’s Daddy? is designed specifically to strike people at home with family present, because it was operationally easier than catching them during military activity.

Rehak and Woodcock now write

The digital infrastructure necessary for collecting, storing, and processing the data is provided by large US companies. The cloud storage of approximately 13.6 petabytes (13,600 terabytes) is provided by Google and Amazon under the name Project Nimbus. Cisco, Dell and Red Hat/IBM provide additional IT services. Palantir is responsible for integrating data from heterogeneous sources, and the AI applications are provided by Microsoft/OpenAI and Google; however not without internal resistance. To ensure optimal collaboration between the companies and the Israeli military, there are various personnel overlaps, e.g. Microsoft employees are also part of Unit 8200 of the IDF or regularly switch roles.

Their central finding is that the systems fail all three by design, not by accident. Reported configuration details they cite: thresholds for what counts as a “target” are adjusted up or down purely to hit a daily quota; pre-set tolerances allow roughly 15 civilian deaths per “junior” target and far more for “senior” targets; cheap, imprecise munitions are deliberately used on lower-value targets; and human review of each AI-generated target reportedly takes around 20 seconds, often just confirming the target’s sex. Internal IDF checks reportedly found about a 10% misidentification rate by the military’s own loose criteria.

The authors argue this combination amounts to a “reckless disregard” for distinction (people are targeted on statistical resemblance, not verified conduct), a failure of precautions (known error-prone, brittle systems are used uncritically at speed and scale), and very likely disproportionate harm given the resulting civilian death toll. They conclude that “targeted killing” is a misleading label for what they characterize as a more indiscriminate, quota-driven process, and that - given Israel’s technical sophistication - the high civilian toll is more plausibly a deliberate policy choice than an unintended side effect.

The cynical naming convention (Lavender, Gospel, Where’s Daddy?) sits awkwardly next to the lethality the AI systems used.

As if that weren’t enough, there seems to be another system not mentioned by Rehak and Woodcock called “Server in the Sky” (SITS) on drone fleets attributed to Haaretz reporting earlier this month. It deployed across Hermes 450 and 900 drones, designed to process intelligence and detect/classify targets in real time.

According to the documents, the algorithm independently analyzes the intelligence gathered by the drones’ sensors and cameras, automatically detecting targets, classifying them and deciding whether to track them or pass them on - to the command center, air force pilots or troops on the ground.
The server and the analytics it runs also allow the drone fleet to be managed autonomously, handing over tasks as the drones surveil a defined sector, shifting the burden among these unmanned aircraft to maintain continuous visibility.

So far neither ICJ (International Court of Justice) nor ICC (International Criminal Court) has so far issued a ruling that evaluates the Lavender/Gospel/Where’s-Daddy systems specifically as evidence – the charges so far center mainly on starvation as a weapon, destruction of infrastructure, and the overall casualty count.

Why does the reporting on the AI systems circulates only in NGO and academic analyses but has neither reached the public nor the ICJ? Germany accepts drone research projects and exports as this is prohibited only for systems that operate completely outside human control.

In Terror (2015) von Schirach has a pilot decide whether to shoot down a hijacked airliner heading for a packed stadium, killing 164 passengers to save tens of thousands. Germany’s Federal Constitutional Court had already ruled this unconstitutional: such a shoot-down violates the inviolable human dignity (Art. 1 GG) and right to life (Art. 2 GG) of the innocent passengers – a person may never be reduced to a mere calculation. It’s an absolute prohibition, not a proportionality balance; you simply don’t weigh lives against lives. That’s the sharp contrast with the IDF system that does the opposite. It pre-configures civilian deaths as tolerable collateral (15 for “junior,” hundreds for “senior” targets), not even as an emergency judgment under pressure like von Schirach’s pilot, but as a routine, repeatable daily setting.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Philosophy, Software

Time to re-visit Naomi Klein

This is certainly one of the strongest AI pieces ever written: AI machines aren't 'hallucinating'. But their makers are,

She writes

The trick, of course, is that Silicon Valley routinely calls theft "disruption" - and too often gets away with it. We know this move: charge ahead into lawless territory; claim the old rules don't apply to your new tech; scream that regulation will only help China - all while you get your facts solidly on the ground… We saw it with Google's book and art scanning. With Musk's space colonization. With Uber's assault on the taxi industry. With Airbnb's attack on the rental market. With Facebook's promiscuity with our data.

Must read also Lila Shroff

Plenty of people are seemingly starting to feel like depleted AI babysitters… workers were experiencing "mental fatigue from excessive use or oversight of
AI tools beyond one's cognitive capacity.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Noteworthy, Philosophy

The NEJM's peer review from beyond

Following up a recent PubPeer post the journals integrity officer Dawn Peters wrote to me "You may submit a Perspective or letter to the editor". So I wrote this letter.

NEJM papers forming the empirical backbone of the hygiene hypothesis contain important methodological weaknesses. The journal's role was active rather than passive: the Bach 2002 review (1) and the accompanying editorial (2) were clear endorsements published alongside the first prominent farm/endotoxin findings. The hypothesis was rarely framed to allow falsification, and was repeatedly reformulated - from "infections" to "endotoxin" to "microbial diversity" to "innate immunity." Later disclosures of editorial conflicts of interest make a retrospective methodological audit overdue.

Bach (1), cited nearly 3,700 times, built its central argument on figures whose source data cannot be verified. Figure 1A cites a source containing seroprevalence rather than incidence data. Figure 1B assigns incorrect country categories. Figure 3 combines disease and economic data from sources that do not contain the values shown. Figure 4 relies on an unpublished personal communication that has not been replicated. The ecological framing throughout is insufficient to support causal inference.

Braun-Fahrländer (3) pools farming and non-farming children whose endotoxin exposures differ twofold into a single smoothed curve. The smoothing span is changed selectively for the one outcome contrary to the main hypothesis, without justification. Fewer than one third of eligible participants provided complete data, with no analysis of non-completers. After correction for multiple testing, virtually the entire Table 2 collapses to a single marginal result.

Ege (4) excluded wheeze-enriched children from the PARSIFAL sample, reducing wheeze prevalence from 8% to 3%, without disclosure in the main paper. In the resulting sample, the farm-asthma association is non-significant. The SSCP normalization standard contained the same organisms highlighted as the paper's headline protective finding. In the paper's own final model, the GABRIELA diversity result is null (OR 1.01, p=0.93) - neither value reported in the abstract.

Stein (5) infers genetic equivalence between Amish and Hutterite children from principal-component analysis of common SNPs, a method not suited to detecting the rare founder variants that distinguish these populations. Shared ancestry is thus not established, and the paper's central contrast - attributing the four-fold asthma difference to farming environment rather than genetic background - is not warranted.

These concerns - unverifiable source data, undisclosed sample exclusions, selective analytical choices, and abstracts that omit null results from the papers' own final models - are documented on PubPeer and remain unaddressed. Taken together, they indicate that the hygiene hypothesis was not established on sound empirical foundations.

I now received this response

Dear Prof. Wjst:

I am writing about your recent letter to the editor. We sent your concerns to authors of the studies you referenced and reviewed the replies we received as well as the studies themselves. I am sorry to say that your letter was not accepted for publication. We believe that limitations you raise were adequately acknowledged by the authors in the published papers and/or were consistent with reporting practices at the time of publication.

Thank you for the opportunity to consider your letter.

Sincerely,

Eric Rubin, MD, PhD
Editor in -Chief

So the New England Journal of Medicine has resolved my concerns about five hygiene hypothesis papers by consulting the authors. One is deceased. The rest are retired. All confirmed their work was fine, a somewhat predictable outcome.

The NEJM calls this research integrity. I call it a new normal: where the bar for correcting the scientific record is the posthumous approval of those who created it. The new normal – figures citing the wrong sources, null results missing from abstracts, undisclosed sample exclusions and a key figure that rests on an unpublished personal communication that has never been replicated. This is an interesting new benchmark for a journal of the NEJM's standing.

One for the files.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Philosophy

Was ist das Wahre daran - und was das Falsche?

Antje Schrupp läuft zu neuen Höhen auf. Auszug aus https://steady.page/de/antjeschrupp/posts/99dd25dc-44cc-4d03-b4c2-365a97cc2ab5

Wenn heute über irgendein politisches Thema gestritten wird, ist da weit und breit keine Dialektik in Sicht, also kein differenziertes und komplexes Nachdenken über die Art der Polarität, mit der man es zu tun hat, sondern heute werden Binaritäten schlicht als unvereinbare Gegensätze präsentiert - schwarz oder weiß, richtig oder falsch, Freund oder Feind. Bist du dafür oder dagegen? Wer nicht eindeutig für uns ist, ist gegen uns - und damit als Bündnispartnerin diskreditiert. […] Hegel war anders. Ihm verdanke ich einen echten Lifehack, den ich damals im Seminar gelernt und dann verinnerlicht habe. Die entsprechende Ãœbung im Seminar war simpel: Wenn eine Aussage, ein politisches Phänomen, eine Bewegung zur Beurteilung vorliegt, so lernten wir, lautet die Frage nicht: Ist das richtig oder falsch? Sondern: Was ist das Wahre daran - und was das Falsche?

 

CC-BY-NC Science Surf , accessed 16.09.2026
Philosophy

High-Frequency Science: When Author AI Meets Publisher AI (Long Version)

I have always avoided forward-looking statements. The future of science communication is complicated enough without adding prophecy to the mix. But the accelerating integration of AI into every corner of the research enterprise makes at least one scenario hard to dismiss: automated agents negotiating, submitting, and “publishing” scientific claims with no human hand on the wheel between preprint and record.

In banking and finance, High-Frequency Trading (HFT) is the Formula 1 of capital markets – algorithms executing thousands of transactions per second, reacting to signals no human could parse in time, optimizing for outcomes defined entirely upstream by whoever wrote the strategy. The races are real; the drivers are not.

The parallel to science is uncomfortable but structurally in line. An author AI monitors the literature, let's say on arXiv, identifies a gap, synthesizes a manuscript from existing results, checks it against a house style, and submits. A Publisher AI receives it, runs peer-review surrogates, scores novelty and methodological plausibility, and issues a DOI.

Both sides are optimizing for metrics – citation potential, impact proxies, throughput – that were defined by humans long ago and are now running unattended.

30 years ago

The analogy breaks down in one important place, and that is where it gets interesting. HFT operates in a closed, well-defined reward landscape: price, volume, spread. Science nominally operates in an open one: truth and trust. But truth is not what most of the current incentive architecture actually rewards. It rewards publication counts, journal prestige, and grant renewal. If those proxies can be satisfied algorithmically, there is no obvious mechanical barrier preventing it. The barrier, if it exists, is epistemic – and epistemic barriers have historically never slowed down industries that found a way around them.

What would High-Frequency Science (HFS) look like in practice? Probably not dramatic. Probably incremental aggregation papers – meta-analyses of meta-analyses, restatements of known findings dressed in new domain vocabulary, combinatorial hypothesis generation from structured databases. Nothing a careful reader could immediately falsify. Volume would rise; signal / noise ratio would fall. The journal impact factor, already a dubious instrument, would measure something even further removed from scientific value.

The question worth asking is not whether this will happen – parts of it already are – but who benefits from the arrangement. HFS benefits liquidity providers, AI firms running the algorithms, preprint servers with traffic, publishers with processing fees, and institutions with productivity dashboards full of green. Whether it benefits the cumulative knowledge record is a different question entirely, and one unlikely to appear in any AI’s objective function unless someone puts it there deliberately.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Noteworthy, Philosophy, with minor/major AI support

Anti Diskriminierungs Fake

Die ZEIT berichtet von einer Präsentation der Bundesbeauftragten für Antidiskriminierung, Ferda Ataman, bei der BPK in Berlin

Viele Menschen in Deutschland glauben einer Studie zufolge an vermeintlich naturgegebene Unterschiede zwischen verschiedenen Ethnien und Kulturen. So stimmten zwei von drei Befragten der Aussage zu, dass bestimmte Kulturen “fortschrittlicher und besser” seien als andere, wie aus der Erhebung des Deutschen Zentrums für Integrations- und Migrationsforschung (DeZIM) hervorgeht. Knapp die Hälfte vertrat die Ansicht, dass gewisse Gruppen “von Natur aus fleißiger” seien als andere. 36 Prozent der Befragten stimmten der Aussage zu, dass es unterschiedliche “Rassen” gäbe.

Um eine solche Studie machen zu können, muss man:frau minimale Voraussetzungen in Testtheorie mitbringen. Basale Kenntnisse der Kulturwissenschaft, Genetik, Medizin oder Pädagogik schaden auch nicht. Leider fehlt dies aber den Leitern dieser “Studie” (download hier).

Oversampling ohne transparente Gewichtung. Die Studie überrepräsentiert bestimmte Gruppen absichtlich durch eine Vorklassifikation nach Vor- und Nachnamen aus Melderegistern. Das ist legitim – aber die Gewichtung wurde im aktuellen Bericht erstmals an Mikrozensus-Daten angepasst, was die Autoren selbst einräumen führt dazu, dass frühere Berichte “in einzelnen Zahlen leicht abweichen”. Zeitreihenvergleiche sind damit methodisch fragwürdig.

Selbstauskunft als einzige Datenquelle. Alle Kernvariablen – Einstellungen, Diskriminierungserfahrungen, Institutionenvertrauen – beruhen auf subjektiver Selbstauskunft. Es gibt keine Kreuzvalidierung mit administrativen Daten, Experimenten (Audit-Studien) oder objektiven Indikatoren.

Zirkuläre Operationalisierung von “Rassismus”. Das Instrument misst u.a. die Zustimmung zur Aussage, bestimmte Kulturen seien “fortschrittlicher und besser” als andere (66 % Zustimmung), und wertet dies als rassistische Einstellung. Eine derartig breite Definition schließt faktische Kulturvergleiche, zivilisationstheoretische Positionen und Alltagsurteile pauschal als “Rassismus” ein – das ist eine normative Vorentscheidung, keine empirische.

Konfundierung von Ursache und Wirkung. Der Bericht berichtet Korrelationen zwischen Diskriminierungserfahrungen und Institutionenvertrauen und formuliert daraus kausale Schlüsse (“gehen einher mit”, “führen zu”). Längsschnittdaten wären nötig, um Kausalrichtung zu bestimmen – das Panel ließe das zumindest ansatzweise zu, wird aber hauptsächlich im Querschnitt ausgewertet.

Selektiver Attrition-Bias. Die Gewichtung für Panel-Ausfälle erfolgt anhand von Merkmalen wie Selbstidentifikation und Einstellungen gegenüber verschiedenen Gruppen. Wer aus dem Panel ausscheidet, weil er das Thema Rassismus als irrelevant empfindet, wird weggewichtet – das strukturiert die Ergebnisse in Richtung der Ausgangshypothese.

Institutionelle Interessenlage. Das NaDiRa ist beim Deutschen Zentrum für Integrations- und Migrationsforschung (DeZIM) angesiedelt und wird vom Bundesministerium gefördert. Die Handlungsempfehlungen am Ende des Berichts sind das erklärte politische Ziel. Das ist kein Fehler per se, aber ein Faktor für die Interpretation.

Zusammenfassung. Die Studie ist kein Beleg für die Verbreitung von Rassismus in Deutschland, sondern eine Messung davon, wie viele Menschen bestimmten, normativ vordefinierten Aussagen zustimmen. Die Gleichsetzung von Zustimmungsraten mit “rassistischen Einstellungen” ist die Kernproblematik – sie folgt aus dem theoretischen Rahmen, nicht aus den Daten selbst.

“Garbabge in, Garbage out” – eine solche sensible Fragestellung in einem “online Tool” ohne vorherige ausführliche Validierung zu bearbeiten? Wo es so sehr auf Nuancen im Sprachgebrauch ankommt?

So ist nicht nur die PK sondern auch die Studie auch die Kernaussagen ein Musterbeispiel für politische Agenda aber nicht für eine validierte Aussage. Verständlicherweise kommt daher vielfache Kritik- Auszüge:

https://profile.zeit.de/2784058 … nicht jede Kultur ist gleich gut. Eine Kultur, in der es bspw. als normal gilt, dass junge Mädchen genitalverstümmelt, zwangsverheiratet und systematisch entrechtet werden, ist einer westlich liberalen Kultur moralisch unterlegen. Dasselbe gilt für kulturelle Prägungen, in denen Ehrengewalt, religiöser Fanatismus oder brutale Homosexuellenverfolgung als selbstverständlich gelten. Oder eine Kultur, die Massenmördern Märtyrerrenten zahlt und betont, wie ehrenvoll es sei, “Ungläubige” zu ermorden. Wer so tut, als dürfe man hier keine Wertung vornehmen, verwechselt Toleranz mit moralischer Beliebigkeit. Eine offene, rechtsstaatliche und freiheitliche Gesellschaft ist solchen Gesellschaftsmodellen überlegen, gerade weil sie individuelle Freiheit, körperliche Unversehrtheit und gleiche Rechte schützt, statt Unterdrückung als Tradition zu bemänteln.

https://profile.zeit.de/2965476 Damals gab es keine AfD und alles erschien aus heutiger Sicht gut. Ich werde das Gefühl nicht los, dass heute jeder vermeintliche Gutmensch fieberhaft unter jedem Stein einen Nazi sucht, um sich dann als der Bessere Bürger, sprich, auf der richtigen Seite der Brandmauer einsortieren zu können. Dieses platte und flache schwarz / weiß denken ist der Treibstoff der AfD

https://profile.zeit.de/2462818 Natürlich finde ich manche Kulturen besser als andere. Russland hat eine Kultur, die mehr von Machtdenken, Chauvinismus, und Gewalt geprägt ist, als andere. Ich halte Japan's Workoholic-Kultur und die Schönheitschirurgie-Obsession Korea's für problematisch. Ebenso Deutschland's Bürokratie und technische Innovationsfeindlichkeit, Amerikanische Waffen-Kultur und Überheblichkeit, oder eine Kultur, die Genitalverstümmelung gut heißt. Aus diesem Mix an problematischen Aspekten verschiedener Kulturen ergibt sich zwangsläufig, dass manche Kulturen Aggregat dem Wohl der Menschheit zuträglicher (und damit "besser") sind, als andere. Das anzuerkennen ist erst mal nicht rassistisch.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Philosophy

Academics need to rescue Wikipedia

Wikipedia represents something unprecedented: the only major platform on which truth emerges through transparent debate, rather than algorithmic opacity or corporate interests. Every edit is logged, every discussion archived. In an era of AI hallucinations, black-box algorithms and widespread disinformation, Wikipedia's radical transparency has become even more essential.

AI models have extensively grabbed all information without giving back anything as Jemielniak now writes. But why does academia still treat Wikipedia with unwarranted scepticism? Why do many students trust it but not most scholars?

It's not mere snobbery as Jemielniak thinks, it is structural. First, there's no academic reward for writing on Wikipedia. Unlike journal articles or books, contributions don't count toward tenure, promotion, or funding. Second, edits by experts are often reverted or overwritten by anonymous users, sometimes less informed, leading to frustration and wasted effort. Third, while citations exist, the sourcing standards and editorial oversight fall short of academic norms in many fields.

Despite evidence that Wikipedia's accuracy rivals traditional encyclopedias – especially in science and medicine – academics remain hesitant. Some fear losing control over knowledge dissemination. Others dismiss it due to its open, non-peer-reviewed model. Yet Wikipedia reaches millions daily, far more than any academic paper. The irony is clear: scholars use it privately but won't engage publicly.

If academia wants real societal impact, contributing to Wikipedia may be the most effective way to share knowledge. But without institutional recognition, that shift won't happen – and the platform risks decline as AI extracts its value without replenishing it.

Academia could rescue Wikipedia now.

Jan 28, 2026 update

It seems that Nature is reading my blog.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Philosophy

Die DFG torpediert sich selbst

https://www.dfg.de/de/aktuelles/neuigkeiten-themen/info-wissenschaft/2025/ifw-25-102

AI-Systeme, jedenfalls wie sie heute existieren, beruhen ausschließlich auf historischen Daten und statistischen Mustern aus bereits vorhandenem Wissen. Sie können nicht wirklich verstehen oder originell urteilen, sondern nur bekannte Konzepte extrapolieren. Dadurch fehlt ihnen die Fähigkeit, bahnbrechende, noch nicht dokumentierte Ideen oder originelle wissenschaftliche Innovationen zu erkennen oder korrekt zu bewerten - was für die Beurteilung von Forschungsanträgen oft zentral ist.

Fachlich versierte Gutachter*innen bringen Erfahrung, kontextuelles Verständnis und Intuition in die Bewertung ein - Qualitäten, die KI-Modelle noch nicht besitzen. KI kann bei Routine-Checks oder formalen Aspekten helfen, aber sie kann nicht subtile wissenschaftliche Originalität, methodische Raffinesse oder neuartige Denkansätze zuverlässig bewerten. Definitiv nicht.

KI-Modelle lernen aus Datensätzen, die bereits menschliche Vorurteile und strukturelle Verzerrungen enthalten. Wenn solche Systeme zur Begutachtung eingesetzt werden, riskieren sie, historische Ungerechtigkeiten und systematische Biases zu reproduzieren - etwa gegenüber bestimmten Fachrichtungen, Regionen oder Methoden - selbst wenn "Verantwortung bei den Gutachter*innen" verbleibt. Angeblich.

Bei der Eingabe von Anträgen oder vertraulichen wissenschaftlichen Daten in KI-Systeme besteht das Risiko, dass diese Informationen nicht vollständig kontrolliert oder gespeichert werden. Obwohl DFG-Richtlinien Vertraulichkeit fordern, bleibt die technische Umsetzung anspruchsvoll und juristisch heikel. Oder haben wir unbegrenzt Zeit für das Review.

Auch wenn die DFG betont, dass die Verantwortung bei den gutachtenden Personen bleibt, besteht die Gefahr, dass Bewertende kognitiv auf KI-Ausgaben "verlassen" (sog. cognitive offloading). Das kann dazu führen, dass Gutachter*innen ihr eigenes kritisches Denken weniger anwenden, wodurch die Qualität der Begutachtung insgesamt leidet.

Und nicht zuletzt – es gibt dokumentierte Fälle, in denen Forschende versuchen, KI-gestützte Reviewprozesse durch versteckte Prompt-Techniken gezielt zu beeinflussen - ein Risiko, das bei Einsatz von KI-Tools in Begutachtungen weiter zunehmen kann, wenn entsprechende Schutzmechanismen fehlen.

Zum Glück ganz anders das European Research Counsil mit den Richtlinien zu ihren ERC Grants.

Screenshot 27.3.2026

Die Richtlinien basieren auf zwei Grundprinzipien: der Nicht-Übertragung der Bewertungsaufgabe und dem strengen Schutz der Vertraulichkeit. Die Gutachter tragen die volle Verantwortung für die Beurteilung von Anträgen und das Verfassen von Gutachten. KI-Tools dürfen nicht verwendet werden, um Anträge zusammenzufassen, ihren wissenschaftlichen Wert zu beurteilen oder Gutachtenentwürfe zu erstellen. Das Hochladen von Anträgen oder Teilen davon in externe KI-Systeme ist untersagt, da dies vertrauliche Informationen an Dritte weitergeben würde.
Bestimmte Nutzungsformen sind erlaubt. Gutachter dürfen KI-Tools verwenden, um die sprachliche Qualität ihrer Berichte zu verbessern oder allgemeine Informationen zu recherchieren, sofern dabei keine Antragsunterlagen oder personenbezogenen Daten geteilt werden und keine Beurteilung delegiert wird.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Philosophy, with minor/major AI support

Von der Bildmanipulation zur Millionen Entschädigung

Was der Fall des Dana-Farber Cancer Institute über die Grenzen wissenschaftlicher Selbstkontrolle zeigt - und warum ein solcher Präzedenzfall in Deutschland bislang undenkbar ist

Es begann unspektakulär, mit auffälligen Bildern, entdeckt in den Tiefen einer Online-Plattform. Auf PubPeer, einem digitalen Schwarzen Brett für Wissenschaft, überprüften externe Wissenschaftler über Jahre hinweg alte Publikationen des renommierten Dana-Farber Cancer Institute (DFCI) in Boston. Was sie dort fanden, wirkte auf den ersten Blick banal - Bildausschnitte, die gespiegelt oder gedreht waren, kontrastverändert oder mehrfach recycelt für unterschiedliche Experimente. Doch was in der Welt der biomedizinischen Forschung zunächst aussieht wie handwerkliche Nachlässigkeit, entwickelte sich zu einem Fall mit juristischem Nachspiel.

Denn Dana-Farber ist nicht irgendein Institut. Die Einrichtung gilt als eine der weltweit führenden Krebsforschungszentren, eng verbunden mit der Harvard Medical School und seit Jahrzehnten großzügig unterstützt durch das National Institutes of Health (NIH). Und wo so viel Geld fließt, hat wissenschaftliche Korrektheit auch eine wirtschaftliche Dimension.

Zunächst folgte das übliche Verfahren: Zeitschriften prüften die Vorwürfe, veröffentlichten Korrekturen oder zogen einzelne Arbeiten ganz zurück. Mehrere der betroffenen Artikel stammten von führenden Mitgliedern des Instituts, einige reichten Jahrzehnte zurück. In manchen Fällen waren die Originaldaten nicht mehr auffindbar, archiviert auf alten Festplatten, in Laborbüchern oder schlicht verloren. Der wissenschaftliche Schaden ließ sich eingrenzen, der wissenschaftliche Record teilweise bereinigen. In der Regel endet die Geschichte hier.

Doch in den USA nahm sie eine unerwartete Wendung. Ein Blick auf die Anträge, mit denen Dana-Farber Fördergelder eingeworben hatte, zeigte: Viele dieser beanstandeten Publikationen hatten als Vorarbeiten gedient - als Beleg für die Machbarkeit und Exzellenz kommender Projekte. Und genau an dieser Schnittstelle, dort, wo Forschung auf Verwaltung trifft, griff plötzlich das Rechtssystem.

Der englische Postdoc Sholto David, der die Unregelmäßigkeiten öffentlich gemacht hatte, argumentierte: Wenn eine Institution öffentliche Gelder auf Grundlage fragwürdiger oder manipulierter Daten erhält, dann hat sie dem Staat faktisch falsche Tatsachen vorgelegt. Juristisch ist das kein Verstoß gegen wissenschaftliche Ethik, sondern potenziell ein Fall von Betrug - und damit ein Fall für den False Claims Act (FCA). Dieses amerikanische Gesetz existiert seit dem 19. Jahrhundert, ursprünglich geschaffen, um Betrug bei Rüstungsaufträgen während des Bürgerkriegs zu bekämpfen (und wäre damit auch bei Maskendeals anzuwenden). Heute deckt es jeden Fall ab, in dem öffentliche Mittel durch Täuschung erlangt werden. Besonders bemerkenswert: Auch Privatpersonen können im Namen des Staates klagen, wenn sie glaubhaft machen, dass Steuergelder missbräuchlich verwendet wurden. Im Erfolgsfall steht ihnen ein Anteil der Rückzahlung zu.

Diese juristische Hebelwirkung führte schließlich zu einem Vergleich zwischen Dana-Farber und dem US-Justizministerium. Das Institut zahlte 15 Millionen US-Dollar, ohne ein offizielles Schuldeingeständnis, aber mit der Anerkennung, dass "problematische Daten" Teil von Förderanträgen gewesen waren. Ein Teil des Vergleichsbetrags ging an den Hinweisgeber. Die Summe war bemerkenswert - nicht wegen ihrer Höhe, sondern wegen des Prinzips dahinter. Der Staat erhob keinen wissenschaftlichen Anspruch, sondern einen schlichten rechtlichen: Wer Forschungsmittel beantragt, schuldet dem Staat Wahrheit.

Dieser Gedanke hat in Deutschland bislang keinen Platz. Ein vergleichbarer Fall würde hier voraussichtlich im System der wissenschaftlichen Selbstkontrolle versanden - in Ombudsverfahren, internen Untersuchungen und gelegentlichen Korrekturen, irgendwann, irgendwo, meist folgenlos. Bei einem Fall an der Universität Gießen ebenfalls mit zahlreicher Manipulationsbefunde auf PubPeer, folgten nach Jahren nur einige wenige Korrekturen. Aber selbst wenn Bundes- oder Landesmittel betroffen wären, fehlt eine systematische Prüfung, ob sie auf falschen Tatsachen beruhten.

Die Deutsche Forschungsgemeinschaft (DFG), die zentrale Förderinstitution für Grundlagenforschung, versteht sich nicht als Ermittlungsbehörde. Ihre Verfahren sind auf wissenschaftliche Selbstkontrolle ausgelegt, nicht auf rechtliche Durchsetzung. Rückforderungen erfolgen nur bei formalen Verstößen - etwa, wenn Mittel zweckwidrig verwendet wurden. Ob eine Forschungsidee auf geschönten Daten beruhte, spielt keine Rolle. Der Staat als Geldgeber tritt dabei selten oder praktisch nie als geschädigte Partei in Erscheinung.

Auch Hinweisgeber, die Missstände entdecken, stehen in Deutschland weitgehend allein. Das 2023 verabschiedete Hinweisgeberschutzgesetz bietet ihnen gegenüber Arbeitgebern einen gewissen Schutz, schafft aber weder Anreize noch rechtliche Möglichkeiten, unrechtmäßig erlangte Fördermittel einzuklagen. Ein Pendant zum amerikanischen qui tam-Recht, das Whistleblowern eine aktive und belohnte Rolle einräumt, existiert nicht.

Der Kontrast könnte deutlicher kaum sein. In den USA machte ein einzelner Forscher publik, dass die Grenze zwischen wissenschaftlicher Unachtsamkeit und Täuschung dort endet, wo Steuergelder betroffen sind. In Deutschland hingegen bleibt wissenschaftliches Fehlverhalten meist eine interne Angelegenheit - geregelt durch Ethik, nicht durch Recht.

Der Fall Dana-Farber ist mehr als eine amerikanische Episode. Er ist ein Lehrstück für die Durchsetzung wissenschaftlicher Redlichkeit mit Haushaltsrecht. Wo Milliarden an Fördermitteln vergeben werden, genügt Selbstkontrolle allein nicht mehr. Ohne ein rechtliches Instrument, das die Wahrheitspflicht gegenüber der Öffentlichkeit durchsetzbar macht, bleibt wissenschaftliche Integrität allenfalls ein freundlicher Appell.

Quelle:

https://retractionwatch.com/2025/12/16/dana-farber-settlement-false-claims-act-image-manipulation

David Sholto zu Sci Rep und dem Honorar

 

CC-BY-NC Science Surf , accessed 16.09.2026
Philosophy

Wie uns KI längst manipuliert

Ich habe bisher nur selten Podcasts empfohlen, weil ich selbst nur wenige höre. Und wenn schon Kopfhörer aufsetzen, dann doch lieber Musik hören. Aber hier kommt ein unbedingt hörenswerter Podcast.

https://podcasts.apple.com/de/podcast/hotel-matze/id1168045239?i=1000728246108

 

CC-BY-NC Science Surf , accessed 16.09.2026
Philosophy

Lügen erscheinen dem Verstand einleuchtender

aus Hannah Arendt, Die Lüge in der Politik

Lügen erscheinen dem Verstand häufig viel einleuchtender und anziehender als die Wirklichkeit, weil der Lügner den großen Vorteil hat, im voraus zu wissen, was das Publikum zu hören wünscht. Er hat seine Schilderung für die Aufnahme durch die Öffentlichkeit präpariert und sorgfältig darauf geachtet, sie glaubwürdig zu machen, während die Wirklichkeit die unangenehme Angewohnheit hat, uns mit dem Unerwarteten zu konfrontieren, auf das wir nicht vorbereitet waren.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Noteworthy, Philosophy

Correct me if I am wrong

https://www.reddit.com/r/slatestarcodex/comments/7qguze/the_puzzle_why_do_scientists_typically_respond_to

For most researchers it takes a long time to develop ideas, run experiments, do the analysis and write up the results to the standard that journals expect. By the time that you get the reviews back for a piece of work it is likely that you are coming towards the end of your funding, or even that your funding has long since run out. If a reviewer points out a likely problem and the author recognises it as such, they are often left with the thought that they don't have the time to go back to the drawing board. Developing a better idea can happen the next day, but it could also require several months of intense work and those months may not be available.
As a researcher you are not only emotionally invested in your hypothesis (with all the inadvertent biases you may then apply to your study) but you are literally invested with a lot of your time and money.
I wonder if the state of science publishing could be vastly improved if we started with something similar to what physicists do and expand further.
‘Physics’ has theoretical physicists who develop hypotheses, and experimental physicists then design experiments to test those hypotheses.
This could be taken a step further, in all scientific fields, for example with a further division in responsibility.

https://www.science.org/doi/epdf/10.1126/science.adk1852

Honest mistakes happen, and journals need to be accessible and on the record about their behaviors. Issuing carefully worded statements and "no comment" has no place in a generative culture. Mean-while, although there have been good recent discussions about universities and journals working together to accelerate corrections and retractions, the universities need to realize thatt hreats of litigation may not be the major consideration when so many within and outside the scientific community are losing trust in science.

https://www.science.org/doi/epdf/10.1126/science.adw5838

Media and public interest in research integrity cases – spurred by online platforms likeX, Bluesky, and PubPeer that give a front row seat to potential disputes in real time – is increasing …A university is likely to opt for silence because of fear of litigation and damage to the institution's reputation. However ,authors should ask themselves whether silence could be interpreted by the media and public as an admission of guilt. So, in addition to consulting with institutional professionals, authors should think about talking to the media directly. This can be an opportunity to provide the unvarnished truth in response to tough questions.

 

CC-BY-NC Science Surf , accessed 16.09.2026
Noteworthy, Philosophy

Unknows facts about COPE

Wilmshurst about COPE then

The Committee on Publication Ethics (COPE) was formed "to address breaches of research and publication ethics". It was a discussion forum providing advice for editors. Its aims were to find practical ways of dealing with issues of concern and to develop good practice. At that time, the members consisted of a small number of editors of medical journals in the BMJ publishing group and the Lancet. There were two individuals who were not journal editors - Professor Ian Kennedy (subsequently Sir Ian Kennedy) and me.

and now

The majority of COPE's income is from large publishing houses that obtain COPE membership for their entire portfolio of journals. Because some publishers have enrolled more than one thousand journals and Springer Nature has enrolled more than 3000 journals, there should be a question as to whether all the editors of the journals that are members of COPE are truly signed up to adhere to COPE principles and practices, rather than passively complying with the policy of their publishers. This arrangement also means that COPE does not know precisely how many members it has because publishing houses do not keep COPE informed about the number of journals in their stable. Individual journals can enrol for a small fee. COPE makes a selling point of the fact that COPE membership enables journals to use the COPE logo.

 

 

CC-BY-NC Science Surf , accessed 16.09.2026