Tag Archives: ai

Big Data Paradox: quality beats quantity

/www.nature.com/articles/s41586-021-04198-4 (via @emollick)

Surveys are a crucial tool for understanding public opinion and behaviour, and their accuracy depends on maintaining statistical representativeness of their target populations by minimizing biases from all sources. Increasing data size shrinks confidence intervals but magnifies the effect of survey bias: an instance of the Big Data Paradox … We show how a survey of 250,000 respondents can produce an estimate of the population mean that is no more accurate than an estimate from a simple random sample of size 10

It basically confirms my earlier observation in asthma genetics

this result was possible with just 415 individuals instead of 500,000 individuals nowadays

 

CC-BY-NC Science Surf , accessed 15.07.2026

It is only Monday but already depressing

Comment on the Palm paper by u/Flaky_Suit_8665 via @hardmaru

67 authors, 83 pages, 5408 parameters in a model, the internals of which no one can say they comprehend with a straight face, 6144 TPUs in a commercial lab that no one has access to, on a rig that no one can afford, trained on a volume of data that a human couldn't process in a lifetime, 1 page on ethics with the same ideas that have been rehashed over and over elsewhere with no attempt at a solution - bias, racism, malicious use, etc. - for purposes that who asked for?

 

CC-BY-NC Science Surf , accessed 15.07.2026

(replication crisis)^2

We always laughed at the papers in the “Journal of Irreproducible Results”

https://www.thriftbooks.com/w/the-best-of-the-journal-of-irreproducible-results/473440/item/276126/?gclid=EAIaIQobChMI3NnCm72l-QIVpHNvBB1nIwSWEAQYAiABEgK6__D_BwE#idiq=276126&edition=1874246

 

then we had the replication crisis and nobody laughed anymore.

 

And today? It seems that irreproducible research is set to reach a new height. Elizabeth Gibney discusses an arXiv paper by Sayash Kapoor and Arvind Narayanan basically saying that

reviewers do not have the time to scrutinize these models, so academia currently lacks mechanisms to root out irreproducible papers, he says. Kapoor and his co-author Arvind Narayanan created guidelines for scientists to avoid such pitfalls, including an explicit checklist to submit with each paper … The failures are not the fault of any individual researcher, he adds. Instead, a combination of hype around AI and inadequate checks and balances is to blame.

Algorithms being stuck on shortcuts that don't always hold has been discussed here earlier . Also data leakage (good old confounding) due to proxy variables seems to be also a common issue.

 

CC-BY-NC Science Surf , accessed 15.07.2026

More about the AI winter

towardsdatascience.com

In the deep learning community, it is common to retrospectively blame Minsky and Papert for the onset of the first 'AI Winter,' which made neural networks fall out of fashion for over a decade. A typical narrative mentions the 'XOR Affair,' a proof that perceptrons were unable to learn even very simple logical functions as evidence of their poor expressive power. Some sources even add a pinch of drama recalling that Rosenblatt and Minsky went to the same school and even alleging that Rosenblatt's premature death in a boating accident in 1971 was a suicide in the aftermath of the criticism of his work by colleagues.

 

 

CC-BY-NC Science Surf , accessed 15.07.2026

Allergy research – waste of time?

A waste of time – has been said about other fields but applies to allergy research also when reading the review request of “Allergy” today. I have to keep the content confidential but not the comment of AI expert Jeremy Howard

It's a problem in science in general. Scientists need to be published which means they need to work on things that their peers are extremely familiar with and can recognize an advance in that area. So, that means that they all need to work on the same thing. The thing they work on... there's nothing to encourage them to work on things that are practically useful so you get just a whole lot of research which is minor advances and stuff that's been very highly studied and has no significant practical impact.

 

CC-BY-NC Science Surf , accessed 15.07.2026

Responsibility for algorithms

Excellent paper at towardsdatascience.com about the responsibility for algorithms including a

broad framework for involving citizens to enable the responsible design, development, and deployment of algorithmic decision-making systems. This framework aims to challenge the current status quo where civil society is in the dark about risky ADS.

I think that the responsiblity is not primarily with the developer but with the user and the social and political framework ( SPON has a warning about the numerous crazy errors when letting AI decide about human behaviour while I can also recommend here the “Weapons of Math Destruction” ).

Being now in the 3rd wave of machine learning, the question is now already discussed (Economist & Washington Post) if AI has an own personality.

 

 

The dialogue sounds slightly better than ELIZA but again way off.

We clearly need to regulate that gold rush to avoid further car crashes like this one in China and this one in France.

 

CC-BY-NC Science Surf , accessed 15.07.2026

Another problem in AI: Out-of-distribution generalization

Not sure if it is really the biggest but certainly one of the most pressing problems: Out-of-distribution generalization. It is explained as

Imagine, for example, an AI that's trained to identify cows in images. Ideally, we'd want it to learn to detect cows based on their shape and colour. But what if the cow pictures we put in the training dataset always show cows standing on grass? In that case, we have a spurious correlation between grass and cows, and if we're not careful, our AI might learn to become a grass detector rather than a cow detector.

As an epidemiologist I would have simply said, it is colliding or confounding, so every new field is rediscovering the same problems over and over again.

 

 

Not unexpected AI just running randomly over pixels is leading to spurious association. Once shape and colour of cows has been detected, surrounding environment, like grass or stable is irrelevant. That means that after getting initial results we have to step back, simulate different lighting conditions from sunlight to lightbulb and environmental conditions from grass to slatted floor (invariance principle). Also shape and size matters – cow spots will keep to some extent size and form irrespective if it is a real animal or children toy (scaling principle). I am a bit more sceptical about including also multimodal data (eg smacking sound) as the absence of these features is no proof of non-existence while this sound can also be imitated by other animals.

And yes, less is more.

 

CC-BY-NC Science Surf , accessed 15.07.2026

Deep fake science

I am currently working on a lecture how I make up my mind whenever approaching a new scientific field. Of course we get the first orientation by proven experts, by proven journals and textbooks, then we collect randomly additional material just to increase confidence.

But what happens if there is some deep fake science? A new Forbes article highlights now deep fakes, how they are going to wreak havoc on society and “we are not prepared”

While impressive, today's deepfake technology is still not quite to parity with authentic video footage-by looking closely, it is typically possible to tell that a video is a deepfake. But the technology is improving at a breathtaking pace. Experts predict that deepfakes will be indistinguishable from real images before long. "In January 2019, deep fakes were buggy and flickery," said Hany Farid, a UC Berkeley professor and deepfake expert. "Nine months later, I've never seen anything like how fast they're going. This is the tip of the iceberg."

It means that also empirical science can be manipulated as well which will be even hard to detect.

 

 

CC-BY-NC Science Surf , accessed 15.07.2026

Die Korrelationsmanie

Materialsammlung bioinformatics / big data / deep learning / AI

 

Passend dazu auch der CCC Vortrag Nadja Geisler / Benjamin Hättasch am 28.12.2019

Deep Learning ist von einem Dead End zur ultimativen Lösung aller Machine Learning Probleme geworden. Die Sinnhaftigkeit und die Qualität der Lösung scheinen dabei jedoch immer mehr vom Buzzword Bingo verschluckt zu werden.
Ist es sinnvoll, weiterhin auf alle Probleme Deep Learning zu werfen? Wie gut ist sind diese Ansätze wirklich? Was könnte alles passieren, wenn wir so weiter machen? Und können diese Ansätze uns helfen, nachhaltiger zu leben? Oder befeuern sie die Erwärmung des Planetens nur weiter?

 

Dazu der gigantische Energieverbrauch durch die Rechenleistung.

 

Wozu es führt: lauter sinnlose Korrelationen

 

https://www.technologyreview.com

Hundreds of AI tools have been built to catch covid. None of them helped.

 

CC-BY-NC Science Surf , accessed 15.07.2026

Dabrocks Ethik

Peter Dabrock bevorzugt Apple Produkte, sogar am Handgelenk. Es ist ja auch praktisch, immer informiert zu sein.

Dass bei der Gelegenheit dann auch andere informiert werden, worüber man selbst informiert ist, nun das liegt in der Natur der Sache, aber wir haben ja den perfekten Datenschutz, so sein Credo.

Wir wollen ja die Vorteile, so jedenfalls seine Aussage nach einem Besuch des Silicon Valley, von dem er mit leuchtenden Augen in Tutzing im November 2018 berichtet hat.

Die Diskussion war kurz, aber ich habe mich dann doch noch zu Wort gemeldet:

… Mit ein paar Tagen Abstand ist mir doch etwas mulmig mit einigen Ihrer Thesen … Es ist illusorisch, dass man den Daten "output" kontrollieren kann, allenfalls den Daten "input".
Der Hackerangriff auf den Bundestag oder auf das Kreiskrankenhaus Fürstenfeldbruck (das gerade tagelang stillgelegt war) – so recht Ahnung hat ja niemand mehr von Computern und Netzwerken.
Datenvermeidung ist im übrigen nicht meine fixe Idee, sondern steht im BDSG … Es sollte nun nicht das übliche Totschlag Argument sein, aber die Deutschen haben ihre eigene Geschichte. Es ist nicht mal ein Menschenleben her, da wissen schon viele nicht mehr, dass der Holocaust mit einer Stricknadel begann.
Und das ist auch der Grund warum die Deutschen auch nicht immer mit machen, selbst bei Aktionen, die an sich sinnvoll wären … Ich sehe da auch kein besonderes Misstrauen in Deutschland, sondern eine vernünftige Nutzen / Schaden Abwägung. Ein Frage des Kontextes oder Framings wie Sie gesagt haben.
Und was passiert mit Ihren ganzen Daten wenn sich auf einmal sich das Blatt in der Politik wendet, die Rechten wieder die Überhand gewinnen, die PiS in Polen, die AfD in Deutschland, die Fidesz in Ungarn, die Lega in Italien?
Oder wenn direkt vor Ihrer Haustür ein Beamter mit dem bayrischen Polizeiaufgabengesetz in der Hand steht und eine “drohende Gefahr" wittert?

Schon wieder sind Firmen mit den besten Rechenzentren der Welt nicht in der Lage, die Datensicherheit zu garantieren, z. B. Facebook

Facebook soll sensible Nutzerdaten an ausgewählte Werbekunden weitergegeben haben, darunter Netflix, Tinder und Airbnb. Dies berichtet die Washington Post auf Grundlage eines mehr als 200-seitigen Ermittlungsberichts aus Großbritannien.

oder Amazon

Amazon hat einem Kunden in Deutschland, der Auskunft über die von ihm gespeicherten Daten haben wollte, 1700 Sprachdateien zugeschickt. Allerdings besitzt dieser Kunde überhaupt keinen Sprachassistenten, die Dateien stammten von einer ganz anderen Person.

oder Adobe.

Das waren alles nur die “Versehen”.

Dabei geht die Strategie weltweit zur totalen Überwachung, nicht nur in China, sondern auch in den USA und Frankreich.

CLV, das steht für “customer lifetime value”, zu Deutsch: “Kundenlebenszeitwert” – ein neues machtvolles Marketinginstrument, das Unternehmen in den Vereinigten Staaten so elektrisiert wie es Verbraucherschützer alarmiert, denn einen ähnlich groß angelegten Angriff auf die Privatsphäre von Millionen Flug-, Telefon-, Einzelhandels- und sonstigen Kunden dürfte es selbst in der US-Wirtschaftsgeschichte mit ihren dauernden Datenskandalen bisher nicht gegeben haben. Immer mehr Firmen lassen anhand Dutzender, Hunderter, gar Tausender persönlichen Daten berechnen, wie viel ihnen ein einzelner Käufer über sein gesamtes “Kundenleben” wohl in Dollar und Cent einbringen wird.

Trotzdem legt Dabrock nochmal nach auf evangelisch.de am 7.2.2019

Der Ethikratsvorsitzende fügte hinzu, dass der Oxforder Philosoph Luciano Floridi eine treffende Charakterisierung der aktuellen Epoche mit dem Begriff “Onlife” gefunden habe. Dieser mache deutlich, dass man in der heutigen Zeit gar nicht mehr zwischen online und offline unterscheiden könne. Offline sei inzwischen nichts anderes als ein avantgardistischer Lebensstil.

Wir wissen nun auch wieso. Der Tagesspiegel schreibt am 9. April 2019 über das besondere Verhältnis von Facebook und Dabrock

Für seinen Besuch in Berlin hat Mark Zuckerberg vergangene Woche die Gesprächspartner genau ausgewählt: Der Facebook-Chef traf am Montag unter anderem CDU-Chefin Annegret Kramp-Karrenbauer, den Grünen-Chef Robert Habeck, mit Verbraucherschutzministerin Katarina Barley (SPD) gab es 45 Minuten. Und am Vormittag gleich eineinhalb Stunden für ein Gespräch mit Wissenschaftlern, darunter mit Peter Dabrock, dem Vorsitzenden des Deutschen Ethikrates, der Regierung und Bundestag in ethischen Fragen berät. Doch nicht nur die Kanzlerin mit ihrem Kabinett und die Volksvertreter schätzen Dabrocks Rat - sondern auch Firmen wie Facebook. Seit Januar 2018 leitet Dabrock (55), Professor für Systematische Theologie an der Universität Erlangen, den so genannten "Facebook-Gesprächskreis: Digitalität & Verantwortung". Die Runde wurde auf Initiative von Facebook hin gegründet, "in enger Zusammenarbeit" mit Dabrock als dem Vorsitzenden des Ethikrates, heißt es in einer Mitteilung von Facebook zur konstituierenden Sitzung.

 

Nachtrag 8.6.2026

Der Papst als Vordenker mit seiner neuen Enzyklika Magnifica Humanitas und eine Woche später hat der Epigone das Thema auch entdeckt

Die Künstliche Intelligenz stellt Grundannahmen zu Anthropologie, Recht und Theologie neu infrage. Der Theologe und Ethiker Peter Dabrock von der Friedrich-Alexander-Universität Erlangen-Nürnberg schreibt: "Wo KI als Heilsversprechen auftritt, ist Entzauberung geboten." Er fordert, die KI-Debatte auf das Thema Macht zu lenken.

Claude, warum ist das oberflächlich und warum ist die Fussnote nur noch gruslig?

1. Die Hauptthese ist nicht neu
“KI ist ein Machtverstärker, kein Gott” ist seit mindestens einem Jahrzehnt Konsens in der kritischen Techniksoziologie (Langdon Winner, Kate Crawford, Shoshana Zuboff). Dabrock recycelt diesen Gedanken, ohne ihn weiterzuentwickeln oder die bestehende Literatur zu verorten.

2. Die Rhetorik widerspricht der eigenen Forderung
Der Aufsatz fordert “nüchternere, politischere” Analyse, operiert aber selbst mit theologischen Appellen (Bonhoeffer, Vorsehung, Erlösung) und wertgeladenen Schlagworten wie “freiheitsethische Kernfrage”. Das ist performativer Widerspruch.

3. Keine einzige konkrete Empfehlung
Fragen wie “Welche Gegenmächte aufgebaut?” werden gestellt, aber nicht ansatzweise beantwortet. Der AI Act und der Digital Services Act werden pauschal als Lösung erwähnt, ohne Diskussion ihrer bekannten Durchsetzungsprobleme (fehlende Ressourcen der nationalen Marktüberwachungsbehörden, extraterritoriale Wirkungsgrenzen etc.).

4. Die Fußnote ist problematisch
Dabrock gibt in der Fußnote an, den Text “mit Hilfe von ChatGPT redaktionell überarbeitet” zu haben, ohne anzugeben, in welchem Umfang. Das ist methodisch inkonsistent in einem Text, der Transparenz und Verantwortungszurechnung bei KI-Systemen einfordert. Wer hat was geschrieben? Die Fußnote verschleiert genau das, was der Text als ethisch zentral bezeichnet.

5. Machtanalyse ohne Akteure
“Tech-Konzerne, Finanzmacht, Sicherheitsinteressen und Politik” bleiben abstrakt. Kein Name, keine Fallstudie, keine Zahl. Eine politökonomische Machtanalyse, die keine Akteure benennt, ist keine Machtanalyse.

6. Die Bonhoeffer-Referenz ist dekorativ
Die Unterscheidung “Letztes/Vorletztes” wird eingeführt, aber dann nicht operationalisiert. Was wäre das “Vorletzte” bei KI-Regulierung konkret? Bleibt offen.
Kurz: der Aufsatz stellt die richtigen Fragen, aber gibt weder Antworten noch empirischen Gehalt, und widerlegt durch seine eigene Entstehungsweise die Glaubwürdigkeit der normativen Forderungen.

 

CC-BY-NC Science Surf , accessed 15.07.2026