Warum die Diversitätskrise der KI wichtig ist und wie man sie bewältigen kann

Jan 12, 2024

Rachel Crowell ist eine freiberufliche Journalistin mit Sitz in der Nähe von Des Moines, Iowa.

Sie können diesen Autor auch in PubMed Google Scholar suchen

Sie haben über Ihre Institution vollen Zugriff auf diesen Artikel.

Inklusivitätsgruppen konzentrieren sich auf die Förderung verschiedener Bauträger für zukünftige Projekte im Bereich der künstlichen Intelligenz. Bildnachweis: Shutterstock

Künstliche Intelligenz (KI) steht vor einer Diversitätskrise. Wenn nicht umgehend dagegen vorgegangen wird, werden Mängel in der Arbeitskultur der KI zu Vorurteilen führen, die in die daraus resultierenden Technologien eindringen und ganze Gruppen von Menschen ausschließen und schädigen. Darüber hinaus wird die daraus resultierende „Intelligenz“ fehlerhaft sein und es mangelt an vielfältigem sozial-emotionalem und kulturellem Wissen.

In einem Bericht des AI Now Institute der New York University aus dem Jahr 2019 stellten Forscher fest, dass mehr als 80 % der KI-Professoren Männer waren. Darüber hinaus machten Schwarze nur 2,5 % der Google-Mitarbeiter und 4 % der Mitarbeiter bei Facebook und Microsoft aus. Darüber hinaus stellten die Autoren des Berichts fest, dass der „überwältigende Fokus auf ‚Frauen in der Technik‘“ bei der Erörterung von Diversitätsfragen in der KI „zu eng ist und weiße Frauen wahrscheinlich gegenüber anderen privilegiert“.

Manche Forscher kämpfen für Veränderungen, aber es gibt auch eine Kultur des Widerstands gegen ihre Bemühungen. „Unter diesem Deckmantel von ‚Oh, KI ist die Zukunft, und wir haben all diese funkelnden, schönen Dinge‘ sind sowohl die KI-Wissenschaft als auch die KI-Industrie grundsätzlich konservativ“, sagt Sabine Weber, wissenschaftliche Beraterin bei VDI/VDE Innovation + Technik. ein Technologieberatungsunternehmen mit Hauptsitz in Berlin. KI wird in beiden Sektoren „überwiegend von weißen Männern mittleren Alters aus wohlhabenden Verhältnissen dominiert. Sie hängen wirklich am Status quo“, sagt Weber, der einer der Hauptorganisatoren der Interessengruppe Queer in AI ist. Nature sprach mit fünf Forschern, die an der Spitze der Bemühungen stehen, den Status quo zu ändern und das KI-Ökosystem gerechter zu gestalten.

Senior Data Science Manager bei Shopify in Atlanta, Georgia, und Vorsitzender der Deep Learning Indaba-Konferenz 2023.

Ich komme ursprünglich aus Ghana und habe 2011 meinen Master in Statistik an der University of Akron in Ohio gemacht. Mein Hintergrund liegt in der Nutzung von maschinellem Lernen zur Lösung von Geschäftsproblemen im Customer-Experience-Management. Ich wende meine analytischen Fähigkeiten an, um Modelle zu erstellen, die das Kundenverhalten steuern, wie z. B. kundenorientierte Empfehlungssysteme, Aspekte des Lead-Scorings – die Einstufung potenzieller Kunden, die Priorisierung der zu kontaktierenden Kunden für unterschiedliche Kommunikationen – und ähnliche Dinge.

Dieses Jahr bin ich außerdem Vorsitzender der Deep Learning Indaba, einem Treffen der afrikanischen Community für maschinelles Lernen und KI, das jedes Jahr in einem anderen afrikanischen Land stattfindet. Letztes Jahr fand es in Tunesien statt. Dieses Jahr findet es im September in Ghana statt.

Unsere Organisation ist für ganz Afrika konzipiert. Letztes Jahr nahmen 52 Länder teil. Ziel ist es, alle 54 afrikanischen Länder vertreten zu haben. Deep Learning Indaba ermöglicht es jedem Land, über ein Netzwerk von Menschen zu verfügen, die die Dinge vor Ort vorantreiben. Wir haben die Flaggschiff-Veranstaltung, die jährliche Konferenz, und länderspezifische IndabaX-Veranstaltungen (denken Sie an TED- und TEDx-Vorträge).

Auf den IndabaX-Konferenzen in Ghana schulen wir Menschen im Programmieren und im Umgang mit verschiedenen Arten von Daten. Wir veranstalten auch Workshops darüber, was in der Branche außerhalb Ghanas passiert und wie Ghana einbezogen werden sollte. IndabaX stellt Fördermittel zur Verfügung und empfiehlt Redner, die etablierte Forscher sind, die für Unternehmen wie Deep Mind, Microsoft und Google arbeiten.

Um maschinelles Lernen, KI und Inklusion in Ghana zu stärken, müssen wir Kapazitäten aufbauen, indem wir junge Forscher und Studenten darin ausbilden, die Fähigkeiten und Vorbereitungen zu verstehen, die sie benötigen, um in diesem Bereich hervorragende Leistungen zu erbringen. Die größte Herausforderung für uns sind die Ressourcen. Unser wirtschaftlicher Status ist so, dass der Fokus der Regierung und der meisten Ghanaer auf dem täglichen Brot der Menschen liegt. Die meisten Ghanaer denken nicht einmal über den technologischen Wandel nach. Viele lokale Akademiker verfügen nicht über das Fachwissen, um die Studenten zu unterrichten und sie wirklich in KI und maschinelles Lernen zu vertiefen.

Die meisten Algorithmen und Systeme, die wir heute verwenden, wurden von Menschen außerhalb Afrikas entwickelt. Die Perspektive Afrikas fehlt und folglich wirken sich Vorurteile auf Afrika aus. Wenn wir bildbezogene KI betreiben, stehen nicht viele afrikanische Bilder zur Verfügung. Afrikanische Datenpunkte machen nicht mehr als 1 % der meisten Datensätze für maschinelles Lernen in der Branche aus.

Wenn es um selbstfahrende Autos geht, ist das Straßennetz in den USA schön und sauber, aber in Afrika ist das Netz sehr holprig und weist viele Löcher auf. Es gibt keine Möglichkeit, dass ein selbstfahrendes Auto, das auf US-amerikanischen oder britischen Straßen trainiert wurde, tatsächlich in Afrika funktionieren könnte. Wir gehen auch davon aus, dass der Einsatz von KI zur Diagnose von Krankheiten das Leben der Menschen verändern wird. Aber das wird Afrika nicht helfen, wenn die Menschen nicht dorthin gehen, um Daten zu sammeln und die afrikanische Gesundheitsversorgung und die damit verbundenen sozialen Unterstützungssysteme, Krankheiten und die Umwelt, in der die Menschen leben, zu verstehen.

Heutzutage müssen afrikanische Studenten in den Bereichen KI und maschinelles Lernen Stipendien suchen und ihr Land verlassen, um zu studieren. Ich möchte diese Veränderung sehen und hoffe, dass Afrikaner in die Entscheidungsfindung einbezogen werden und große Durchbrüche im maschinellen Lernen und in der KI-Forschung erzielen.

Forscher außerhalb Afrikas können afrikanische KI unterstützen, indem sie bestehende afrikanische Bemühungen betreuen und mit ihnen zusammenarbeiten. Wir haben zum Beispiel Ghana NLP, eine Initiative, die sich auf die Entwicklung von Algorithmen zur Übersetzung von Englisch in mehr als drei Dutzend ghanaische Sprachen konzentriert. Globale Forscher, die sich freiwillig melden und ihre Fähigkeiten in die afrikaspezifische Forschung einbringen, werden bei solchen Bemühungen hilfreich sein. Deep Learning Indaba verfügt über ein Portal, in dem sich Forscher als Mentoren anmelden können.

Maria Skoularidou hat auf einer großen Konferenz zum Thema künstliche Intelligenz daran gearbeitet, die Barrierefreiheit zu verbessern. Bildnachweis: Maria Skoularidou

Doktorand in Biostatistik an der Universität Cambridge, Großbritannien, und Gründer und Vorsitzender von {Dis}Ability in AI.

Ich habe {Dis}Ability in AI im Jahr 2018 gegründet, weil mir klar wurde, dass Menschen mit Behinderungen auf Konferenzen nicht vertreten waren und es sich nicht richtig anfühlte. Ich wollte eine solche Bewegung ins Leben rufen, damit Konferenzen inklusiv und zugänglich sind und Menschen mit Behinderungen wie ich daran teilnehmen können.

In diesem Jahr nahmen an der NeurIPS – der jährlichen Konferenz über neuronale Informationsverarbeitungssysteme – in Montreal, Kanada, mindestens 4.000 Menschen teil, und ich konnte keine einzige Person identifizieren, die als sichtbar behindert eingestuft werden konnte. Statistisch gesehen bedeutet dies nicht, dass es keine behinderten Teilnehmer gibt.

Ich habe auch viele Probleme mit der Barrierefreiheit festgestellt. Ich habe zum Beispiel Plakate gesehen, die in Bezug auf Farbenblindheit rücksichtslos waren. Der Ort war so überfüllt, dass Menschen, die Hilfsmittel wie Rollstühle, Gehstöcke oder Begleithunde benutzen, keinen Platz hatten, um sich durch die Postersitzung zu bewegen. Es gab Aufzüge, aber für jemanden mit eingeschränkter Mobilität wäre es angesichts der Größe des Veranstaltungsortes nicht einfach gewesen, alle Sitzungsräume zu erreichen. Es gab auch keine Gebärdensprachdolmetscher.

Seit 2019 trägt {Dis}Ability in AI dazu bei, die Zugänglichkeit bei NeurIPS zu verbessern. Es gab Dolmetscher und Untertitel für Menschen mit Hörproblemen. Es gab ehrenamtliche Begleitpersonen für Menschen mit eingeschränkter Mobilität oder Sehbehinderung, die um Hilfe baten. Es gab Hotline-Berater und Ruheräume, denn große Konferenzen können überwältigend sein. Die Idee war: Das ist es, was wir jetzt bieten können, aber bitte wenden Sie sich an uns, falls wir in Bezug auf etwas keine Rücksicht nehmen, denn wir wollen ethisch, fair, gleichberechtigt und ehrlich sein. Behinderung ist ein Teil der Gesellschaft und muss repräsentiert und einbezogen werden.

Viele behinderte Forscher haben ihre Ängste und Sorgen über die Hindernisse geäußert, mit denen sie bei der KI konfrontiert sind. Einige haben gesagt, dass sie sich nicht sicher fühlen würden, Details über ihre chronische Krankheit preiszugeben, denn wenn sie das täten, könnten sie möglicherweise nicht befördert werden, nicht gleich behandelt werden, nicht die gleichen Chancen wie ihre Kollegen haben, nicht das gleiche Gehalt erhalten und so weiter. Andere KI-Forscher, die sich an mich wandten, wurden gemobbt und hatten das Gefühl, dass sie sogar ihren Job verlieren könnten, wenn sie noch einmal über ihren Zustand sprechen würden.

Menschen aus Randgruppen müssen an allen Schritten des KI-Prozesses beteiligt sein. Wenn behinderte Menschen nicht einbezogen werden, werden die Algorithmen ohne Rücksicht auf unsere Community trainiert. Wenn ein Sehender die Augen schließt, bedeutet das nicht, dass er versteht, womit ein Blinder zu kämpfen hat. Wir müssen Teil dieser Bemühungen sein. Freundlichkeit ist eine Möglichkeit für nichtbehinderte Forscher, das Fachgebiet integrativer zu gestalten. Nichtbehinderte Menschen könnten behinderte Menschen einladen, Vorträge zu halten oder Gastforscher oder Mitarbeiter zu sein. Sie müssen mit unserer Gemeinschaft auf einer fairen und gleichberechtigten Ebene interagieren.

William Agnew ist Informatik-Doktorand an der University of Washington in Seattle. Sabine Weber ist wissenschaftliche Referentin bei VDI/VDE Innovation + Technik in Erfurt. Sie sind Organisatoren der Interessenvertretung Queer in AI.

Agnew: Ich habe 2018 bei der Organisation des ersten Queer in AI-Workshops für NeurIPS mitgeholfen. Grundsätzlich nimmt der KI-Bereich Diversität und Inklusion nicht ernst. Die Bemühungen in diesen Bereichen werden bei jedem Schritt unterfinanziert und unterschätzt. Das Feld schützt oft Belästiger.

Die meisten Leute, die an der Arbeit in „Queer in AI“ arbeiten, sind Doktoranden, mich eingeschlossen. Sie können fragen: „Warum ist es nicht der Seniorprofessor? Warum ist es nicht der Vizepräsident von was auch immer?“ Der Mangel an hochrangigen Mitgliedern schränkt unsere Tätigkeit und die Ressourcen ein, für die wir uns einsetzen können.

Die Dinge, für die wir uns einsetzen, geschehen von unten nach oben. Wir fordern geschlechtsneutrale Toiletten; Anbringen von Pronomen auf Anmeldeausweisen für Konferenzen, in Biografien von Rednern und in Umfragen; Möglichkeiten, unsere Umfrage zu queeren KI-Erfahrungen durchzuführen, um demografische Daten, Erfahrungen mit Schaden und Ausgrenzung sowie die Bedürfnisse der queeren KI-Gemeinschaft zu sammeln; und wir sind gegen Richtlinien zur Datenextraktion. Wir als eine Gruppe queerer Menschen, die durch ihre Queerheit an den Rand gedrängt werden und die jüngsten Menschen in unserem Bereich sind, müssen uns für diese Positionen einsetzen.

In unseren Umfragen nennen queere Menschen immer wieder den Mangel an Gemeinschaft, Unterstützung und Peer-Gruppen als ihre größten Probleme, die sie davon abhalten könnten, eine Karriere in der KI fortzusetzen. Eines unserer Programme vergibt Stipendien, um Menschen bei der Bewerbung für eine Graduiertenschule zu helfen und die Gebühren für Bewerbungen, standardisierte Zulassungstests wie die Graduate Record Examination (GRE) und Hochschulzeugnisse zu decken. Manche Menschen müssen in ein anderes Land fliegen, um den GRE zu erhalten. Dies stellt eine große Hürde dar, insbesondere für queere Menschen, die seltener finanzielle Unterstützung von ihren Familien erhalten und repressive rechtliche Rahmenbedingungen erleben. Beispielsweise erlassen die gesetzgebenden Körperschaften der US-Bundesstaaten Anti-Trans- und Anti-Queer-Gesetze, die sich auf unsere Mitglieder auswirken.

Vor allem aufgrund meiner Arbeit mit Queer in AI bin ich vom Robotiker zum Ethiker geworden. Die Art und Weise, wie die Daten queerer Menschen genutzt, gesammelt und missbraucht werden, ist ein großes Problem. Ein weiteres Problem besteht darin, dass es beim maschinellen Lernen im Wesentlichen um die Kategorisierung von Gegenständen und Personen und die Vorhersage von Ergebnissen auf der Grundlage der Vergangenheit geht. Diese Dinge stehen im Widerspruch zur Vorstellung von Queerness, bei der Identität fließend ist und sich oft auf wichtige und große Weise verändert, und zwar häufig im Laufe des Lebens. Wir drängen zurück und versuchen, uns maschinelle Lernsysteme vorzustellen, die Queerness nicht unterdrücken.

Man könnte sagen: „Diese Modelle repräsentieren nicht Queerness. Wir reparieren sie einfach.“ Aber queere Menschen sind seit langem das Ziel verschiedener Formen der Überwachung, die darauf abzielen, uns zu outen, zu kontrollieren oder zu unterdrücken, und ein Modell, das queere Menschen gut versteht, kann sie auch besser überwachen. Wir sollten es vermeiden, Technologien zu entwickeln, die diese Schäden verstärken, und auf Technologien hinarbeiten, die queere Gemeinschaften stärken.

Weber: Zuvor habe ich als Ingenieur bei einem Technologieunternehmen gearbeitet. Ich sagte zu meinem Chef, dass ich die einzige Person im gesamten Team von etwa 60 Entwicklern sei, die kein Cisgender-Typ sei. Er antwortete: „Sie waren die einzige Person, die sich für Ihre Stelle beworben hat und über die entsprechende Qualifikation verfügt. Es ist so schwer, qualifizierte Leute zu finden.“

Aber die Unternehmen schauen offensichtlich nicht sehr genau hin. Für sie fühlt es sich an wie: „Wir sitzen ganz oben. Jeder kommt zu uns und bietet sich an.“ Stattdessen könnten Unternehmen Menschen bei queeren Organisationen, bei feministischen Organisationen, rekrutieren. An jeder Universität gibt es eine Gruppe für Frauen in Naturwissenschaften, Technik, Ingenieurwesen und Mathematik (STEM) oder eine Gruppe für Frauen in der Informatik, an die sich Unternehmen problemlos wenden können.

Aber der Gedanke „So haben wir es schon immer gemacht; bringen Sie uns nicht ins Wanken“ ist weit verbreitet. Das nervt. Eigentlich möchte ich das Boot wirklich rocken, denn das Boot ist dumm. Es ist eine große Enttäuschung, auf diese Hürden zu stoßen.

Laura Montoya ermutigt diejenigen, die wie sie auf einem unkonventionellen Weg zum Bereich der künstlichen Intelligenz gekommen sind. Bildnachweis: Tim McMacken Jr ([email protected])

Geschäftsführer des Accel.AI Institute und von LatinX in AI in San Francisco, Kalifornien.

Im Jahr 2016 habe ich das Accel.AI Institute als Bildungsunternehmen gegründet, das unterrepräsentierten oder unterversorgten Menschen im Bereich KI hilft. Heute ist es eine gemeinnützige Organisation mit der Mission, KI für Initiativen mit sozialer Wirkung voranzutreiben. Ich war außerdem Mitbegründer des Programms „LatinX in AI“, einer Berufsorganisation für Menschen mit lateinamerikanischem Hintergrund in diesem Bereich. Ich gehöre zur ersten Generation in den Vereinigten Staaten, weil meine Familie aus Kolumbien ausgewandert ist.

Mein Hintergrund liegt in Biologie und Naturwissenschaften. Ich habe meine Karriere als Software-Ingenieur begonnen, aber herkömmliches Software-Engineering hat sich für mich nicht gelohnt. Da entdeckte ich die Welt des maschinellen Lernens, der Datenwissenschaft und der KI. Ich habe nach dem besten Weg gesucht, etwas über KI und maschinelles Lernen zu lernen, ohne ein Graduiertenstudium zu absolvieren. Ich war schon immer ein alternativer Denker.

Mir wurde klar, dass ein Bedarf an alternativen Bildungsmöglichkeiten für Menschen wie mich besteht, die nicht den typischen Weg einschlagen, die sich als Frauen identifizieren, die sich als farbige Menschen identifizieren und einen alternativen Weg für die Arbeit mit diesen Werkzeugen und Technologien einschlagen wollen .

Später, als ich große Konferenzen zu KI und maschinellem Lernen besuchte, traf ich andere wie mich selbst, aber wir machten nur einen kleinen Teil der Bevölkerung aus. Ich habe mich mit diesen wenigen Freunden getroffen, um darüber nachzudenken: „Wie können wir das ändern?“. So wurde LatinX in AI geboren. Seit 2018 haben wir Forschungsworkshops auf großen Konferenzen gestartet und in Zusammenarbeit mit NeurIPS einen eigenen Aufruf zur Einreichung von Beiträgen veranstaltet.

Wir bieten außerdem ein dreimonatiges Mentorenprogramm an, um der Abwanderung von Fachkräften entgegenzuwirken, die dadurch entsteht, dass Forscher Lateinamerika nach Nordamerika, Europa und Asien verlassen. Ältere Mitglieder unserer Community und sogar Verbündete, die keine LatinX-Mitglieder sind, können als Mentoren fungieren.

Im Jahr 2022 haben wir unser Supercomputerprogramm gestartet, da es in weiten Teilen Lateinamerikas an Rechenleistung mangelt. Für unser Pilotprogramm, um der Forschung Zugang zu Hochleistungsrechnerressourcen auf dem Guadalajara-Campus des Monterey Institute of Technology in Mexiko zu ermöglichen, spendete das Technologieunternehmen NVIDIA mit Sitz in Santa Clara, Kalifornien, ein DGX A100-System – im Wesentlichen einen großen Server Computer. Die Regierungsbehörde für Innovation im mexikanischen Bundesstaat Jalisco wird das System hosten. Lokale Forscher und Studenten können den Zugriff auf diese Hardware für die Forschung im Bereich KI und Deep Learning teilen. Wir haben einen weltweiten Aufruf zur Einreichung von Vorschlägen für Teams veröffentlicht, die zu mindestens 50 % aus Latinx-Mitgliedern bestehen und diese Hardware nutzen möchten, ohne am Institut eingeschrieben sein oder gar in der Region Guadalajara ansässig sein zu müssen.

Bisher wurden acht Teams für die Teilnahme an der ersten Kohorte ausgewählt und arbeiten an Projekten, die autonome Fahranwendungen für Lateinamerika und Überwachungsinstrumente für den Tierschutz umfassen. Jedes Team erhält für den von ihm angeforderten Zeitraum Zugriff auf eine Grafikverarbeitungseinheit oder GPU, die für die parallele Verarbeitung komplexer Grafik- und visueller Datenverarbeitungsaufgaben ausgelegt ist. Dies wird eine Gelegenheit zur gegenseitigen Zusammenarbeit sein, für Forscher, zusammenzukommen, um große Probleme zu lösen und die Technologie für einen guten Zweck zu nutzen.

doi: https://doi.org/10.1038/d41586-023-01689-4

Diese Interviews wurden aus Gründen der Länge und Klarheit bearbeitet.

Sammlung: Diversität und wissenschaftliche Karrieren

Warum künstliche Intelligenz Konsequenzen verstehen muss

Präsentation der Beiträge Afrikas zur Wissenschaft

Um KI fair zu gestalten, müssen wir Folgendes lernen

Tansanias Forscher boten 22.000 US-Dollar für Veröffentlichungen in internationalen Fachzeitschriften an

Neuigkeiten 06.06.23

Wenn ein geliebter Mensch stirbt: Wie die Wissenschaft trauernde Kollegen unterstützen kann

Karriere-Feature 05 23. Juni

Wissenschaftliche Utopien: Wissenschaftliche Aufklärung im Stupid Questions Office

Karrierekolumne 05 23. JUNI

Sechs Tipps für besseres Codieren mit ChatGPT

Technologie-Feature 05, 23. Juni

Auf dem Weg zum quantenmaschinellen Lernen

Spotlight 24 23. MAI

Quantencomputer: Wofür sind sie gut?

Spotlight 24 23. MAI

ChatGPT: Standard-Berichtsrichtlinien für eine verantwortungsvolle Nutzung

Korrespondenz 06.06.23

Sechs Tipps für besseres Codieren mit ChatGPT

Technologie-Feature 05, 23. Juni

Transferlernen ermöglicht Vorhersagen in der Netzwerkbiologie

Artikel 31 23. MAI

Eine interdisziplinäre Forschungsorganisation, in der modernste Wissenschaft und Technologie die Entdeckung wirkungsvoller Erkenntnisse vorantreiben

Pudong New Area, Shanghai

BeiGene-Institut

Die Nanjing Forestry University liegt im östlichen Teil von Nanjing und ist eine Volluniversität.

Nanjing, Jiangsu (CN)

Nanjing Forestry University (NFU)

DMPK/PD-Vertreter in multifunktionalen Expertenteams zur Bewertung neuer chemischer Wirkstoffe

Guangzhou, Guangdong, China

BeiGene Ltd.

Das NIEHS sucht einen Senior Investigator als Leiter des Ctr für Klimawandel- und Gesundheitsforschung.

Forschungsdreieck Park, North Carolina

Nationales Institut für Umweltgesundheitswissenschaften/NIH

Wir suchen einen Forschungstechniker für die Giustacchini-Gruppe im Population and Medical Genomics Program am Human Technopole (HT).

Mailand (IT)

Menschlicher Technopol