Nur neun riesige Technologieunternehmen in den USA und China stehen hinter der überwiegenden Mehrheit der Fortschritte bei der künstlichen Intelligenz weltweit. In ihrem neuen Buch The Big Nine: Wie die Tech-Titanen und ihre Denkmaschinen die Menschheit verzerren könnten (PublicAffairs, 5. März) stellt sich Amy Webb drei mögliche Zukunftsperspektiven vor, von optimistisch bis apokalyptisch, die aus den Maßnahmen resultieren könnten, die wir ergreifen oder nicht ergreifen, um die Entwicklung von KI zu kontrollieren. und ihre globale Wirkung mitgestalten. In diesem Auszug stellt sie eine Reihe harter ethischer Fragen, die die Menschen, die KI bauen, aufwerfen. Systeme sollten ihre Arbeit leiten.
Die Regeln – der Algorithmus – nach denen jede Kultur, Gesellschaft und Nation lebt und jemals gelebt hat, wurden immer von nur wenigen Menschen geschaffen. Demokratie, Kommunismus, Sozialismus, Religion, Veganismus, Nativismus, Kolonialismus – das sind Konstrukte, die wir im Laufe der Geschichte entwickelt haben, um unsere Entscheidungen zu leiten. Selbst im besten Fall sind sie nicht zukunftssicher. Technologische, soziale und wirtschaftliche Kräfte greifen immer ein und veranlassen uns, uns anzupassen.
Die Zehn Gebote bilden einen Algorithmus, der eine bessere Gesellschaft für die Menschen schaffen soll, die vor mehr als 5.000 Jahren lebten. Eines der Gebote ist, in der Woche einen ganzen Tag Ruhe zu nehmen und an diesem Tag überhaupt keine Arbeit zu verrichten. In der heutigen Zeit arbeiten die meisten Menschen nicht von Woche zu Woche an genau denselben Tagen oder Stunden, daher wäre es unmöglich, die Regel nicht zu brechen. Daher sind Menschen, die die Zehn Gebote als Leitlinie befolgen, flexibel in ihrer Interpretation angesichts der Realität von längeren Arbeitstagen, Fußballtraining und E-Mail. Anpassung ist in Ordnung – es funktioniert wirklich gut für uns und für unsere Gesellschaften und ermöglicht es uns, auf dem richtigen Weg zu bleiben. Die Vereinbarung eines grundlegenden Leitfadens ermöglicht es uns, für uns selbst zu optimieren.
wie alt ist lily pearl black
Es gäbe keine Möglichkeit, eine Reihe von Geboten für die KI zu erstellen. Wir konnten nicht alle Regeln für eine korrekte Optimierung für die Menschheit aufschreiben, und das liegt daran, dass Denkmaschinen zwar schnell und mächtig sind, ihnen aber an Flexibilität mangelt. Es gibt keine einfache Möglichkeit, Ausnahmen zu simulieren oder zu versuchen, jede einzelne Eventualität im Voraus zu durchdenken. Welche Regeln auch immer geschrieben werden, es würde in Zukunft immer einen Umstand geben, in dem einige Leute die Regeln möglicherweise anders interpretieren oder vollständig ignorieren oder Änderungen vornehmen möchten, um mit einem unvorhergesehenen Umstand umzugehen.
Da wir wissen, dass wir unmöglich eine Reihe strenger Gebote schreiben können, sollten wir stattdessen unsere Aufmerksamkeit auf die Menschen richten, die die Systeme bauen? Diese Leute – die Stämme der KI – sollten sich unangenehme Fragen stellen, beginnend mit:
brandi passantenvermögen 2017
- Was ist unsere Motivation für KI? Ist es auf die besten langfristigen Interessen der Menschheit ausgerichtet?
- Was sind unsere eigenen Vorurteile? Welche Ideen, Erfahrungen und Werte haben wir nicht in unseren Stamm aufgenommen? Wen haben wir übersehen?
- Haben wir Menschen, die anders als wir sind, einbezogen, um die Zukunft der KI zu gestalten? besser – oder haben wir einfach Vielfalt in unser Team aufgenommen, um bestimmte Quoten zu erfüllen?
- Wie können wir sicherstellen, dass unser Verhalten inklusiv ist?
- Wie sind die technologischen, wirtschaftlichen und sozialen Auswirkungen von KI? von denen verstanden, die an seiner Entstehung beteiligt sind?
- Welche Grundrechte sollten wir haben, um die Datensätze, Algorithmen und Prozesse abzufragen, die für unsere Entscheidungen verwendet werden?
- Wer darf den Wert des menschlichen Lebens definieren? Wogegen wird dieser Wert abgewogen?
- Wann und warum fühlen sich die Angehörigen der KI-Stämme in ihrer Verantwortung, sich mit den sozialen Auswirkungen der KI zu befassen?
- Ist die Führung unserer Organisation und unserer K.I. Stämme viele verschiedene Arten von Menschen widerspiegeln?
- Welche Rolle spielen diejenigen, die KI vermarkten? spielen bei der Bewältigung der sozialen Auswirkungen von KI?
- Sollten wir weiterhin A.I. menschlichen Denkens, oder ist es besser für uns, es als etwas anderes zu kategorisieren?
- Ist es in Ordnung, KI zu bauen? das menschliche Emotionen erkennt und darauf reagiert?
- Ist es in Ordnung, A.I. Systeme, die menschliche Emotionen nachahmen können, insbesondere wenn sie in Echtzeit von uns lernen?
- Was ist der akzeptable Punkt, an dem wir alle mit KI einverstanden sind? sich ohne den Menschen direkt in der Schleife weiterentwickeln?
- Unter welchen Umständen könnte eine K.I. gemeinsame menschliche Emotionen simulieren und erleben? Was ist mit Schmerz, Verlust und Einsamkeit? Sind wir in Ordnung, dieses Leiden zu verursachen?
- Entwickeln wir KI? um ein tieferes Verständnis für uns selbst zu suchen? Können wir KI verwenden? um der Menschheit zu helfen, ein genaueres Leben zu führen?
Es gibt neun große Technologieunternehmen – sechs amerikanische und drei chinesische –, die überwiegend für die Zukunft der künstlichen Intelligenz verantwortlich sind. In den USA sind dies Google, Microsoft, Amazon, Facebook, IBM und Apple („G-MAFIA“). In China sind es die BAT: Baidu, Alibaba und Tencent.
Die G-MAFIA hat begonnen, sich in verschiedenen Forschungs- und Studiengruppen mit der Problematik der Leitprinzipien auseinanderzusetzen. Innerhalb von Microsoft gibt es ein Team namens FATE – für Fairness, Accountability, Transparency und Ethics in A.I. Nach dem Skandal um Cambridge Analytica hat Facebook ein Ethikteam ins Leben gerufen, das Software entwickelt, um sicherzustellen, dass seine KI. Systeme vermieden Verzerrungen. (Bemerkenswert ist, dass Facebook nicht so weit ging, ein Ethik-Board einzurichten, das sich auf KI konzentriert.) DeepMind schuf ein Ethik- und Gesellschaftsteam. IBM veröffentlicht regelmäßig über Ethik und K.I. Nach einem Skandal bei Baidu – die Suchmaschine priorisierte irreführende medizinische Behauptungen aus einem vom Militär betriebenen Krankenhaus, in dem eine Behandlung zum Tod eines 21-jährigen Studenten führte – gab der CEO von Baidu, Robin Li, zu, dass Mitarbeiter Kompromisse um des Gewinnwachstums von Baidu willen und versprach, sich in Zukunft auf Ethik zu konzentrieren.
Rebecca King-Crews Eltern
The Big Nine erstellt Ethikstudien und Whitepaper, beruft Experten zu Ethikdiskussionen ein und veranstaltet Podiumsdiskussionen über Ethik – aber diese Bemühungen sind nicht genug mit dem Tagesgeschäft der verschiedenen Teams verbunden, die an KI arbeiten.
Die KI der Big Nine Systeme greifen zunehmend auf unsere realen Daten zu, um Produkte zu entwickeln, die einen kommerziellen Wert aufweisen. Die Entwicklungszyklen beschleunigen sich, um mit den Erwartungen der Investoren Schritt zu halten. Wir waren bereit – wenn auch unwissentlich – Teilnehmer an einer Zukunft, die hastig geschaffen wird und ohne vorher all diese Fragen zu beantworten. Als KI Systeme voranschreiten und mehr vom Alltag automatisiert wird, desto weniger Kontrolle haben wir tatsächlich über die Entscheidungen, die über und für uns getroffen werden.
Amy Webb wird bei der . erscheinen Inc. Gründerhaus in Austin am 11. März.
