While Harald Lesch talks about AI language models as “statistical parrots”, others are concerned about the hallucinations they produce
“Language models are trained to predict the next word,” said Yilun Du, a researcher at MIT who was previously a research fellow at OpenAI, and one of the paper’s authors. “They are not trained to tell people they don’t know what they’re doing.”
says
a new report titled Survival of the Richest, Oxfam shows that the top 1% worldwide grabbed $26 trillion of the $42 trillion in new wealth created, close to twice as much as the bottom 99% of the global population.
even if some of them are funding science.
Der Schutz von Whistleblower sollte eigentlich nach Willen der EU besser werden. Aber nach unendlichen Verzögerungen, zuletzt vor dem Vermittlungsausschuss des Bundestages, ist es damit nicht mehr weit her, wenn nicht mal mehr anonyme Hinweise möglich sind. Einziger Trost: auch woanders nur”talk, no action”. So wird das deutsche Gesetz wohl bald wieder einkassiert werden, das meint nicht nur Transparency Deutschland
Leider muss man in aller Deutlichkeit sagen: Der vorliegende Gesetzentwurf zum Schutz von Hinweisgeber:innen ist ein Fiasko. Die Bundesregierung muss dringend nachbessern, denn in der vorliegenden Form brächte das Gesetz neue Rechtsunsicherheiten für Whistleblower:innen, Unternehmen und Behörden. Anstatt den klaren Vorgaben und Empfehlungen der EU zu folgen, hat die Bundesregierung Stückwerk vorgelegt.
While I came across this program only in the He Jiankui case the NIH director is writing now about the Chinese talent recruitment program
Many NIH cases of grant policy violations involve activities in China and scientists of Chinese origin, raising concerns about racial, ethnic, or political targeting. The disproportionate share may be related to the extensive reach of Chinese talent recruitment programs, which explicitly state preferences for ethnic Chinese scientists. NIH compliance reviews abide by the same procedures for all scientists irrespective of their demographics, and the inquiries include cases involving countries other than China.
while we should not blame the Chinese culture but individual behaviour.
Christiane Florin ist der Meinung, daß
an Universitäten selbständig denkende Menschen heranwachsen dürfen. Mittlerweile sind Hochschulen aber vor allem Standorte, an denen Absolventen produziert werden.
womit sie recht hat.
Unbefristung / Tenure einer Arbeitsstelle heisst nicht, daß der Arbeitgeber einen Arbeitnehmer bis zur Rente (oder darüber hinaus) arbeiten lässt. Das ist weder in Deutschland noch in Amerika so. Emeriti an deutschen Universitäten können allerdings wie in Amerika weiter arbeiten, da sie nur entpflichtet werden. Angestellte an Großforschungszentren gehen dagegen mit dem Ruhestand leer aus und verlieren Rechte an Büro, Labor und Bibliothek, sehr wenige Ausnahmen abgesehen.
Und nicht nur das – zunehmend ist Tenure in der Wissenschaft bedroht. So wurde etwa an der University Wisconsin 2015 (conversation) das 100 Jahre alte Recht auf Unbefristung eingeschränkt mit fatalen Folgen (slate). Weitere Eskalationsstufe sind aus England 2021 mit “Stock out” (Focus) oder 2022 in Texas (CNN) bekannt geworden.
2023 ist der Eingriff in die Wissenschaftsfreiheit in Deutschland angekommen. Nach einer Finanzkrise des Managements [1, 2, 3] wurde 2023 am Helmholtz Zentrum München erstmals “betriebsbedingt” gekündigt. Bei persönlichen Konflikten gab es hier auch schon früher Kündigungen, die Beendigung einer unbefristeten Arbeitsgruppenleiterstelle wegen Restrukturierung ist allerdings ein Novum in der deutschen Forschungslandschaft.
Nature reports that editors quit top neuroscience journal to protest against open-access charges
The journals are open access and require authors to pay a fee for publishing services. The APC for NeuroImage is US$3,450; NeuroImage: Reports charges $900, which will double to $1,800 from 31 May.
Creating a PDF and charging authors aka governments with incredible prices? Too much is never enough.
the grand-grandson of George Boole and 2018 Turing award winner
the timestamps were generously created by @carson_tang
2:45 – why mainstream AI in the 1980s shunned neural networks
3:21 – Hinton believed in neural networks because the brain worked this way
4:31 – two different paths to intelligence
6:15 – lack of data and compute that impeded deep learning’s progress
8:57 – the start of deep learning in 2006
10:04 – two big deep learning developments: speech recognition at Google and object recognition at University of Toronto
10:49 – how object recognition works in layman’s terms
15:47 – breakthroughs in object recognition influencing the AI community
18:28 – why Hinton likes the company Cohere
19:20 – biological brains vs digital brains
21:39 – ChatGPT as an “idiot savant” with a lack of understanding of truth
24:56 – how society should handle this new AI
30:52 – self-healing minefield proposed by the government
31:43 – how to create an effective autonomous solder and the alignment problem
33:12 – are large language models “just autocomplete”? Are humans “just autocomplete”?
33:52 – translating “The trophy would not fit in the suitcase because it was too big” into French. English-French translation and the insights it provides into LLMs’ understanding of the world
35:50 – computers coming up with new ideas for itself
37:00 – AI displacing jobs
38:15 – how big of a revolution is AI?
40:37 – is AI sentient?
September 26th, 1985
Wisniewsky wird der Satz zugeschrieben
Es gibt keine dummen Fragen. Nur dumme Antworten. Allerdings – gibt es Fragen, die eindeutig die Dummheit des Fragestellers selbst beweisen.
Und dann gibt es Fragen, die sind obszön – nach Aron Bodenheimer – Fragen, die im Adressaten eine Beschämung erzeugen, mit Beispielen illustriert bei K H Reger
Ist das dein Knabe, Tell?
Obszönität stellt sich ein an dem Ort und unter den Bedingungen, dass ein Einzelner gewisse Anteile seiner Persönlichkeit unvermittelt, unvorbereitet nach außen preisgegeben findet; Persönlichkeitsanteile, welche dieser so Exponierte anderen gegenüber, oder auch vor sich selbst bisher verborgen gehalten hat.
…
Wie geht es dir? Gut?
Zur Eigenart und besonderen Wirkung des Obszönen gehört dessen Asymmetrie: Der Umstand, dass von Zweien nur Einer beschämt wird. Und das Sagen hat, wer das Fragen hat. Antwortenmüssen macht schuldig.
Nicht wenn man einer neuen Studie in Sci Rep glauben kann
Three experiments, one preregistered with a sample representative of the United States population, examined the impact of (a) directly correcting prior misinformation offered in support of restricting Genetically Modified (GM) foods (i.e., the correction strategy) and (b) discussing information in support of GM foods (i.e., the bypassing strategy), compared to a misinformation-only control condition. Findings consistently revealed that bolstering beliefs with opposite implications is just as effective at reducing opposition to GM foods as is correcting misinformation about GM foods.
Where I would really like to go at least on time in life is the Science Foo Camp. Unfortunately I have been never invited… Meetings with no fixed agenda are great but maybe to anarchic for DFG?
Louis Pasteur (Chimiste et biologiste français | Né à Dole le 27 Décembre 1822) Passant ses dimanches avec un préparateur en chimie, Louis Pasteur acquiert des connaissances en chimie, physique et cristallographie.
Mit dem Heidegger Zitat eröffnet Paul Hoyningen-Huene den Aufsatz “Irrationalität in der Wissenschaftsentwicklung“.
Tatsächlich wurde die Wissenschaft, insbesondere die Naturwissenschaft, die meiste Zeit ihrer Existenz als rational verstanden, sowohl in ihrem eigenen Selbstbild als auch im Fremdbild, etwa durch die Philosophie oder das allgemeine Bewusstsein. … so wurden bestimmte wissenschaftliche Entwicklungen als steril oder scholastisch angeprangert, Wissenschaft wurde als gefährlich oder einseitig angesehen …. Kuhn behauptet … neben der Wichtigkeit von Paradigmen allem Anschein nach auch die Irrationalität der Wissenschaftsentwicklung. Bei den entscheidenden Weichenstellungen der Wissenschaftsentwicklung, nämlich der Auswahl und Akzeptanz einer Theorie aus einer Gruppe von konkurrierenden Theorien durch die jeweilige wissenschaftliche Gemeinschaft, würden durchaus nicht rationale Gründe den Ausschlag geben. … Ähnliche Diagnosen von Irrationalität in der Wissenschaftsentwicklung waren auch von dem bekannten (und z.T. berüchtigten) Philosophen Paul Feyerabend zu hören, der in seinem Buch Against Method von 1975 für die Wissenschaften gar den Slogan ausgab: „Anything goes“. Ein Dutzend Jahre später schien Feyerabend die Vernunft sogar ganz und gar verabschieden zu wollen, indem er 1987 ein Buch mit dem Titel Farewell to Reason publizierte.
Der initialen Bestandsaufnahme von Hoyningen-Huene kann ich aus eigener Erfahrung durchaus zustimmen, denn die Auswahl aus den konkurrierenden Ursprungstheorien in meinem Bereich folgte nicht rationalen Gründen sondern mehr der Medienpräsenz einiger zentraler Figuren, dem “gesunden Menschenverstand” einiger Kommission und Kongresspräsidien, dem allgemeinen politischen Trend und wohl auch handfesten wirtschaftlichen Interessen.
Aber warum um Himmels willen Feyerabend berüchtigt und nicht auch als berühmt zu bezeichnen? Es scheint der running gag bei Hoyningen-Huene zu sein
Für den Aufklärer Feyerabend ist dieser Verstoß unmittelbar auch antihumanitär, denn „Fortschritt ist immer dadurch erreicht worden, dass man wohlverschanzte und wohlbegründete Lebensformen an unpopulären und grundlosen Werten gemessen hat. So hat sich der Mensch schrittweise von Furcht und von der Tyrannei ungeprüfter Systeme befreit“.
Nun ja, im Vorwort einer Einführung in die Philosophie Feyerabends seines Doktoranden Eric Oberheim wird Hoyningen-Huene schliesslich auch zitiert mit “If you join any one philosophical school, you loose ten IQ points”.
