Ein offener Brief

Forschungsprioritäten für stabile und wohltätige künstliche Intelligenz

Click here to see this page in other languages: EnglishUS_Flag Chinese   Japanese   Russian

Die Forschung an künstlicher Intelligenz (KI, engl. artificial intelligence AI) hat sich seit ihren Anfängen mit einer Vielzahl von Problemen und Ansätzen beschäftigt. In den letzten zwanzig Jahren hat sie sich aber auf Probleme konzentriert, die mit der Erschaffung intelligenter Agenten zu tun haben, Systeme, die in gewissen Umgebungen wahrnehmen und handeln können. In diesem Kontext bezieht sich „Intelligenz“ auf statistische und ökonomische Begriffe der Rationalität – umgangssprachlich gesagt, die Fähigkeit, gute Entscheidungen zu treffen, Pläne oder Eingriffe zu machen. Das Übernehmen von wahrscheinlichkeits- und entscheidungstheoretischen Darstellungen und Methoden des statistischen Lernens hat zu einem fruchtbaren Austausch zwischen Feldern wie KI, Maschinenlernen, Statistik, Steuerungstheorie, Neurowissenschaften und anderen geführt. Die Etablierung gemeinsamer theoretischer Gerüste in Kombination mit Datenverfügbarkeit und Rechenleistung hat zu bemerkenswerten Erfolgen in verschiedenen Teildisziplinen wie Spracherkennung, Bildklassifizierung, autonomem Fahren, maschineller Übersetzung, Fortbewegung auf Beinen und Frage-Antwort-Systemen geführt.

Wenn in solchen Feldern das Leistungsvermögen die Grenze vom Labor hin zu ökonomisch wertvollen Technologien überschreitet, kommt es zu einer Aufwärtsspirale: Selbst kleine Leistungsverbesserungen sind viel Geld wert, was wiederum zu neuen Investitionen in die Forschung führt. Es gibt inzwischen einen breiten Konsens darüber, dass die KI-Forschung sich stetig weiterentwickelt und dass ihr Einfluss auf die Gesellschaft sich wahrscheinlich weiter vergrößern wird. Die potenziellen Vorteile sind gewaltig, da alles, was die menschliche Zivilisation zu bieten hat, ein Produkt von Intelligenz ist. Wir können nicht vorhersehen, was wir erreichen könnten, wenn diese Intelligenz durch KI verstärkt wird, aber ein Ende von Krankheit und Armut ist nicht unvorstellbar. Wegen des großen Potenzials von KI ist es wichtig, zu erforschen, wie wir Nutzen daraus gewinnen und dabei gleichzeitig Stolperfallen umgehen können.

Die Fortschritte bei künstlichen Intelligenzen machen es dringend notwendig, die Forschung nicht nur auf die Leistungsfähigkeit der KI zu konzentrieren, sondern auch ihren sozialen Nutzen zu maximieren. Diese Überlegungen haben das AAAI 2008-09 Presidential Panel on Long-Term AI Futures und andere Projekte zur Auswirkung von KI motiviert. Sie bedeuten auch eine signifikante Ausweitung der Fachrichtung KI, welche sich bisher hauptsächlich auf zweckmäßig neutrale Technologien konzentriert hat. Wir schlagen vor, die Forschung auszudehnen und so sicherzustellen, dass die immer leistungsfähigeren KI-Systeme stabil und wohltätig sind: Unsere KI-Systeme müssen das tun, was wir wollen. Dieses Dokument mit Forschungsprioritäten (Link auf Englisch) zeigt viele Beispiele solcher Forschungsrichtungen, die dabei helfen können, die sozialen Vorteile von KI zu verbessern. Diese Forschung ist notwendigerweise interdisziplinär, weil sie sowohl die Gesellschaft als auch KI beinhaltet. Die Bandbreite reicht von Ökonomie, Rechtswissenschaften und Philosophie über Computersicherheit, formale Methoden und natürlich verschiedene Bereiche im Feld der KI selbst.

Zusammenfassend glauben wir, dass Forschung, die sich damit beschäftigt, dass KI-Systeme stabil und wohltätig sind, dringend notwendig ist. Es gibt schon heute konkrete Forschungsrichtungen, die eingeschlagen werden können.

Bisher wurde dieser offene Brief von über 8.000 Menschen unterschrieben. Wenn Sie Ihre Unterstützung für diese Grundsätze ausdrücken möchten, folgen Sie diesem Link und tragen Sie Ihren Namen und Ihre E-Mail Adresse in das Formular unten auf der Seite ein.