Category Archives: Philosophy

Original soundtrack Geoffrey Hinton

the grand-grandson of George Boole and 2018 Turing award winner

the timestamps were generously created by @carson_tang
2:45 – why mainstream AI in the 1980s shunned neural networks
3:21 – Hinton believed in neural networks because the brain worked this way
4:31 – two different paths to intelligence
6:15 – lack of data and compute that impeded deep learning’s progress
8:57 – the start of deep learning in 2006
10:04 – two big deep learning developments: speech recognition at Google and object recognition at University of Toronto
10:49 – how object recognition works in layman’s terms
15:47 – breakthroughs in object recognition influencing the AI community
18:28 – why Hinton likes the company Cohere
19:20 – biological brains vs digital brains
21:39 – ChatGPT as an “idiot savant” with a lack of understanding of truth
24:56 – how society should handle this new AI
30:52 – self-healing minefield proposed by the government
31:43 – how to create an effective autonomous solder and the alignment problem
33:12 – are large language models “just autocomplete”? Are humans “just autocomplete”?
33:52 – translating “The trophy would not fit in the suitcase because it was too big” into French. English-French translation and the insights it provides into LLMs’ understanding of the world
35:50 – computers coming up with new ideas for itself
37:00 – AI displacing jobs
38:15 – how big of a revolution is AI?
40:37 – is AI sentient?

Warum? Von der Obszönität des Fragens

Wisniewsky wird der Satz zugeschrieben

Es gibt keine dummen Fragen. Nur dumme Antworten. Allerdings – gibt es Fragen, die eindeutig die Dummheit des Fragestellers selbst beweisen.

Und dann gibt es Fragen, die obszön sind – nach Aron Bodenheimer –  Fragen, die im Adressaten eine Beschämung erzeugen.

Beispiele bei K H Reger

Ist das dein Knabe, Tell?
Obszönität stellt sich ein an dem Ort und unter den Bedingungen, dass ein Einzelner gewisse Anteile seiner Persönlichkeit unvermittelt, unvorbereitet nach außen preisgegeben findet; Persönlichkeitsanteile, welche dieser so Exponierte anderen gegenüber, oder auch vor sich selbst bisher verborgen gehalten hat.

Wie geht es dir? Gut?
Zur Eigenart und besonderen Wirkung des Obszönen gehört dessen Asymmetrie: Der Umstand, dass von Zweien nur Einer beschämt wird. Und das Sagen hat, wer das Fragen hat. Antwortenmüssen macht schuldig.

Muss man wirklich jedem Unsinn widersprechen?

Nicht wenn man einer neuen Studie in Sci Rep glauben kann

Three experiments, one preregistered with a sample representative of the United States population, examined the impact of (a) directly correcting prior misinformation offered in support of restricting Genetically Modified (GM) foods (i.e., the correction strategy) and (b) discussing information in support of GM foods (i.e., the bypassing strategy), compared to a misinformation-only control condition. Findings consistently revealed that bolstering beliefs with opposite implications is just as effective at reducing opposition to GM foods as is correcting misinformation about GM foods.

Die Wissenschaft denkt nicht

Mit dem Heidegger Zitat eröffnet Paul Hoyningen-Huene den Aufsatz “Irrationalität in der Wissenschaftsentwicklung“.

Tatsächlich wurde die Wissenschaft, insbesondere die Naturwissenschaft, die meiste Zeit ihrer Existenz als rational verstanden, sowohl in ihrem eigenen Selbstbild als auch im Fremdbild, etwa durch die Philosophie oder das allgemeine Bewusstsein.  …  so wurden bestimmte wissenschaftliche Entwicklungen als steril oder scholastisch angeprangert, Wissenschaft wurde als gefährlich oder einseitig angesehen …. Kuhn behauptet … neben der Wichtigkeit von Paradigmen allem Anschein nach auch die Irrationalität der Wissenschaftsentwicklung. Bei den entscheidenden Weichenstellungen der Wissenschaftsentwicklung, nämlich der Auswahl und Akzeptanz einer Theorie aus einer Gruppe von konkurrierenden Theorien durch die jeweilige wissenschaftliche Gemeinschaft, würden durchaus nicht rationale Gründe den Ausschlag geben. … Ähnliche Diagnosen von Irrationalität in der Wissenschaftsentwicklung waren auch von dem bekannten (und z.T. berüchtigten) Philosophen Paul Feyerabend zu hören, der in seinem Buch Against Method von 1975 für die Wissenschaften gar den Slogan ausgab: „Anything goes“. Ein Dutzend Jahre später schien Feyerabend die Vernunft sogar ganz und gar verabschieden zu wollen, indem er 1987 ein Buch mit dem Titel Farewell to Reason publizierte.

Der initialen Bestandsaufnahme von Hoyningen-Huene kann ich aus eigener Erfahrung durchaus zustimmen, denn die Auswahl aus den konkurrierenden Ursprungstheorien in meinem Bereich folgte nicht rationalen Gründen sondern mehr der Medienpräsenz einiger zentraler Figuren, dem “gesunden Menschenverstand” einiger Kommission und Kongresspräsidien, dem allgemeinen politischen Trend und wohl auch handfesten wirtschaftlichen Interessen.

Aber warum um Himmels willen Feyerabend berüchtigt und nicht auch als berühmt zu bezeichnen? Es scheint der running gag bei Hoyningen-Huene zu sein

Für den Aufklärer Feyerabend ist dieser Verstoß unmittelbar auch antihumanitär, denn „Fortschritt ist immer dadurch erreicht worden, dass man wohlverschanzte und wohlbegründete Lebensformen an unpopulären und grundlosen Werten gemessen hat. So hat sich der Mensch schrittweise von Furcht und von der Tyrannei ungeprüfter Systeme befreit“.

Nun ja, im Vorwort einer Einführung in die Philosophie Feyerabends seines Doktoranden Eric Oberheim wird Hoyningen-Huene schliesslich auch zitiert mit “If you join any one philosophical school, you loose ten IQ points”.

Deviation from preregistration

I know tons of papers that deviate from their initial plan, but I am not aware of so many papers where this can be unequivocally found by comparing pre-registration and publication.

It has been mentioned recently and there seems also a formal analysis in the literature

We observed deviations from the plan in all studies, and, more importantly,  in all but one study, at least one of these deviations was not fully disclosed.

Further research required,

Why research integrity matters

A new paper by Lex Bouter clearly shows

Scholars need to be able to trust each other, because otherwise they cannot collaborate and use each other’s findings. Similarly trust is essential for research to be applied for individuals, society or the natural environment. The trustworthiness is threatened when researchers engage in questionable research practices or worse.

Revolten gegen die Macht des Wissens

aus Bogner, Alexander: Die Epistemisierung des Politischen. Wie die Macht des Wissens die Demokratie gefährdet, Zitat

Die Wissensgläubigkeit der Moderne ist schon früh zum Gegenstand philosophischer Kritik geworden. … Es herrscht der unbedingte Glaube daran, dass Wissen besser ist als Nichtwissen, dass rationale Analyse dem intuitiven Erleben überlegen ist und das Bewusstsein über dem Sein steht. Scientia potestas est verkündeten schon die Frühaufklärer. . …
Im Zuge des technischen Fortschritts und militärischen Wettrüstens wird offensichtlich, dass das Wissen auch Risiken, Gefahren und Verwüstungen hervorbringen kann. Man lernt, dass das Wissen um die kleinsten Elementarteilchen in seiner technischen Anwendung zu den größten Katastrophen führen kann (Atomkraft). Und man kriegt zunehmend Angst vor der technischen Neugestaltung der Natur (Gentechnik), auch der menschlichen (Biomedizin), so dass die Ethik bald zur ständigen Begleiterin der Genetik wird. Außerdem kommt man darauf, dass Wissen keineswegs eindeutig sein muss. …
Die von der linksalternativen Bewegung popularisierte Expertenkritik trägt dazu bei, dass bald alle Leute in allen wichtigen Fragen, vor allem in Gesundheitsfragen, routinemäßig eine zweite Meinung einholen.

was erklärt warum wir heute so viele Klima-, Corona-, Impf- und Aidsleugner haben. Aber wäre die Entwicklung verhinderbar gewesen?

Arguments against germline therapy

from Tina Rulli “Reproductive CRISPR does not cure disease” in bioethics 2019.

Consider an analogy. Imagine Bill has the following options:
6. Take SICK pill. Bill gets sick.
7. Take SICK pill, then take ANTIDOTE. Bill prevents sickness and remains healthy.
8. Do nothing. Bill stays healthy.
Now imagine that prior to this decision, ANTIDOTE is taken off the market so that it is unavailable to Bill. The unavailability of ANTIDOTE does not mean that Bill gets sick. For Bill has the option to simply not take the sick pill. Bill could just stay healthy (option 8). Offering ANTIDOTE is only morally urgent if it is inevitable that Bill will get sick, i.e., if Bill is forced to take the SICK pill (option 6).

Unethical clinical research

Unethical is every research that is not ethical.

But what is ethical? A paper already 22 years back proposed 7 requirements that make a coherent framework.

  1. value— enhancements of health or knowledge must be derived from the research;
  2. scientific validity—the research must be methodologically rigorous;
  3. fair subject selection—scientific objectives, not vulnerability or privilege, and the potential for and distribution of risks and benefits, should determine communities selected as study sites and the inclusion criteria for individual subjects;
  4. favorable risk-benefit ratio—within the context of standard clinical practice and the research protocol, risks must be minimized, potential benefits enhanced, and the potential benefits to individuals and knowledge gained for society must outweigh the risks;
  5. independent review— unaffiliated individuals must review the research and approve, amend, or terminate it;
  6. informed consent—individuals should be informed about the research and provide their voluntary consent; and
  7. respect for enrolled subjects—subjects should have their privacy protected, the opportunity to withdraw, and their well-being monitored.

Fulfilling all 7 requirements is necessary and sufficient to make clinical research ethical.