{"id":21457,"date":"2023-01-04T12:51:08","date_gmt":"2023-01-04T10:51:08","guid":{"rendered":"https:\/\/www.wjst.de\/blog\/?p=21457"},"modified":"2023-01-04T16:24:40","modified_gmt":"2023-01-04T14:24:40","slug":"es-ist-ein-ethisches-nicht-ein-mathematisches-problem","status":"publish","type":"post","link":"https:\/\/www.wjst.de\/blog\/sciencesurf\/2023\/01\/es-ist-ein-ethisches-nicht-ein-mathematisches-problem\/","title":{"rendered":"Es ist ein ethisches, nicht ein mathematisches Problem"},"content":{"rendered":"<p>Ein hervorragender Insider Kommentar zu Gebru und Mitchell, der Frau die von Google wegen ihres <a href=\"https:\/\/dl.acm.org\/doi\/10.1145\/3442188.3445922\">AI Papers<\/a> gefeuert wurde.<\/p>\n<figure id=\"attachment_21458\" aria-describedby=\"caption-attachment-21458\" style=\"width: 594px\" class=\"wp-caption alignnone\"><a href=\"https:\/\/www.wjst.de\/blog\/wp-content\/uploads\/2023\/01\/Bildschirmfoto-2023-01-04-um-11.33.22.jpg\" rel=\"key\" data-rel=\"key-image-0\" data-rl_title=\"\" data-rl_caption=\"\" title=\"\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-21458 size-full\" src=\"https:\/\/www.wjst.de\/blog\/wp-content\/uploads\/2023\/01\/Bildschirmfoto-2023-01-04-um-11.33.22.jpg\" alt=\"\" width=\"594\" height=\"299\" \/><\/a><figcaption id=\"caption-attachment-21458\" class=\"wp-caption-text\">https:\/\/twitter.com\/mmitchell_ai\/status\/1362885356127801345<\/figcaption><\/figure>\n<p>Michaela Menken schreibt dazu<\/p>\n<blockquote><p>\nBias in\/bias out. Sprich, die gelernten Modelle verst\u00e4rken die Positionen und Stimmen, die in den Trainingsdaten am meisten vertreten sind. Und das sind selten die Positionen und Stimmen von Minderheiten &#8230;<\/p>\n<p><em>Reporting Bias &#8230;<\/em> implizite, ontologische Kenntnis der Welt steht der KI nicht vollumf\u00e4nglich zur Verf\u00fcgung&#8230;<\/p>\n<p><em>Selection Bias <\/em>also &#8230; die durch die Auswahl der Daten entstehen k\u00f6nnen&#8230;<\/p>\n<p><em>Confirmation Bias<\/em> &#8230;\u00a0 ob der Output f\u00fcr qualitativ gut oder schlecht gehalten wird, korrespondiert nat\u00fcrlich mit dem Weltbild und den Erwartungen desjenigen, der die \u00dcberpr\u00fcfung durchf\u00fchrt.<\/p>\n<p><em>Automation Bias<\/em>. Menschen neigen dazu, Ergebnisse, die algorithmisch herbeigef\u00fchrt wurden, schneller und leichter anzunehmen<\/p><\/blockquote>\n<p>Es sind also massive ethische Probleme, die mit dem Einzug der KI entstehen. Nicht umsonst wurde in Augsburg im letzten Jahr ein &#8220;<a href=\"https:\/\/www.uni-augsburg.de\/de\/campusleben\/neuigkeiten\/2022\/02\/03\/5815\/\">Center for Responsible AI Technologies<\/a>&#8221; gegr\u00fcndet.\u00a0 Dazu wurden <a href=\"https:\/\/taz.de\/Bayerische-KI-Strategie\/!5661394\/\">100 neue Lehrst\u00fchle <\/a>geschaffen, selbst der bayrische Ethikrat <a href=\"http:\/\/chrome-extension:\/\/oemmndcbldboiebfnladdacbdfmadadm\/https:\/\/www.bayern.de\/wp-content\/uploads\/2022\/12\/Stellungnahme-Bay.-Ethikrat-zu-KI-Bildung_neu.pdf\">hat sich vor 2 Wochen<\/a> einschl\u00e4gig wenn auch wenig konkret dazu ge\u00e4ussert.<\/p>\n\n<p>&nbsp;<\/p>\n<div class=\"bottom-note\">\n  <span class=\"mod1\">CC-BY-NC Science Surf , accessed 07.04.2026<\/span>\n <\/div>","protected":false},"excerpt":{"rendered":"<p>Ein hervorragender Insider Kommentar zu Gebru und Mitchell, der Frau die von Google wegen ihres AI Papers gefeuert wurde. Michaela Menken schreibt dazu Bias in\/bias out. Sprich, die gelernten Modelle verst\u00e4rken die Positionen und Stimmen, die in den Trainingsdaten am meisten vertreten sind. Und das sind selten die Positionen und Stimmen von Minderheiten &#8230; Reporting &hellip; <a href=\"https:\/\/www.wjst.de\/blog\/sciencesurf\/2023\/01\/es-ist-ein-ethisches-nicht-ein-mathematisches-problem\/\" class=\"more-link\">Continue reading <span class=\"screen-reader-text\">Es ist ein ethisches, nicht ein mathematisches Problem<\/span> <span class=\"meta-nav\">&rarr;<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5,9],"tags":[3358,1119],"class_list":["post-21457","post","type-post","status-publish","format-standard","hentry","category-philosophy-of-science","category-computer-software","tag-ai","tag-bias"],"_links":{"self":[{"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/posts\/21457","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/comments?post=21457"}],"version-history":[{"count":5,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/posts\/21457\/revisions"}],"predecessor-version":[{"id":21463,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/posts\/21457\/revisions\/21463"}],"wp:attachment":[{"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/media?parent=21457"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/categories?post=21457"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wjst.de\/blog\/wp-json\/wp\/v2\/tags?post=21457"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}