Fairness klingt nach einem weichen Konzept, lässt sich aber technisch umsetzen. Warum KI dabei nicht alle Menschen in Watte packen kann, klärt iX im Interview.
Die größten Nebelkerzen im Bereich KI zünden Lobbyisten, Unternehmen und Politik gerade bei Datenschutz und Bias der Modelle – dabei dreht sich der AI Act insbesondere um die Sicherheit von KI-Systemen in Bezug auf uns Menschen. Dass das Thema in der öffentlichen Debatte bisher eher schlecht transportiert wird, zeigt ein Zitat vom Gesundheitsminister Carl Lauterbach, der KI-Systeme mit Heizungen vergleicht und sie "mit synthetischen Daten durchspülen" will.
Verzerrungen können sich entlang des ganzen Lebenszyklus einer KI-Anwendung einschleichen. Eine zentrale Rolle spielen natürlich die Trainingsdaten. Sie beschreiben in der Regel jene Welt, die modelliert werden soll. Fehlen Daten oder sind manche Gruppen unterrepräsentiert, kann das zu Bias führen. Manchmal wird allerdings bereits der Ist-Zustand als unfair wahrgenommen, etwa wenn sich soziale Ungleichheit gesellschaftlich verfestigt hat.
Die KI birgt ein enormes Potenzial, unser Leben zu bereichern. Damit dieses Potenzial ausgeschöpft werden kann, muss die Gesellschaft der Technologie vertrauen können. Deshalb ist es im Interesse aller Beteiligten, dass der Einsatz verantwortungsvoll erfolgt. Das betrifft Fairness, aber auch andere Bereiche wie Transparenz, Verlässlichkeit und Datenschutz.Fairness klingt oft nach einem weichen, schlecht abgrenzbaren Konzept.
Tatsächlich gibt es sehr unterschiedliche Konzepte von Fairness, die sich aber in mathematische Formeln übersetzen lassen. Bekannte Definitionen sind zum Beispiel Demographic Parity oder Equalized Odds. Leider stehen einige Konzepte aber in direktem Konflikt, weshalb man nicht einfach eine Form von "kompletter Fairness" anstreben kann, die sämtliche Vorgaben gleichermaßen erfüllt.
Mehr Volumen und mehr Vielfalt in den Trainingsdaten erhöhen dabei zunächst einmal die Fähigkeit des KI-Modells zu generalisieren und damit die allgemeine Leistungsfähigkeit des Systems. Die Ursachen von Bias, die im Laufe des KI-Lebenszyklus auftreten können, werden dadurch allerdings nicht bekämpft. Mit Hinblick auf LLMs wie ChatGPT stellt sich die Fairness-Frage übrigens komplett neu.
Philippines Latest News, Philippines Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Drei Fragen und Antworten: Bei KI kann es keine komplette Fairness gebenFairness klingt nach einem weichen Konzept, lässt sich aber technisch umsetzen. Warum KI dabei nicht alle Menschen in Watte packen kann, klärt iX im Interview.
Read more »
Verschwundenes Tauchboot: Tragisches Ende der „Titan“-Suche – letzte Antworten, offene FragenDas tagelange Bangen um die Menschen an Bord des Tauchboots „Titan“ ist einer traurigen Gewissheit gewichen: Die fünf Männer sind längst tot. Doch was ist genau geschehen? Und wie geht es jetzt weiter?
Read more »
München: Drei Raubüberfälle in drei Stunden – 17-Jährige festgenommenDie Verdächtigen sollen ihre Opfer mit Pistole und Schlagstock bedroht haben und es vor allem auf deren Mobiltelefone abgesehen haben.
Read more »
Destiny 2 nutzt „versehentlich' Werke eines Künstlers, ohne zu fragen, verspricht jetzt EntschädigungDurch ein Missverständnis landete das Kunstwerk eines Fans in einer neuen Cutscene in Destiny 2. Bungie klärt auf.
Read more »
Die ungelösten Fragen der Titan-KatastropheNach der fieberhaften Suche nach dem im Nordatlantik verschollenen Mini-U-Boot herrscht traurige Gewissheit: Das private Tauchboot „Titan“ ist durch „katastrophale Implosion“ zerstört worden, alle fünf Menschen an Bord kamen ums Leben. Doch viele Fragen sind noch offen.
Read more »
Neymar darf mit anderen Frauen Sex haben – unter drei Bedingungen!Neymar und seine Freundin erwarten ein gemeinsames Kind. Trotzdem darf er fremdgehen. Unter drei Bedingungen.
Read more »