Politik und Forschung
Unser Ziel ist es, den Umgang mit künstlicher Intelligenz und deren Überschneidung mit biologischen, nuklearen und Cyber-Risiken zu verbessern.
Einführung
Verbesserung der Governance im Bereich transformativer Technologien
Das Politikteam des FLI arbeitet an der Verbesserung der nationalen und internationalen Governance im Bereich der KI. Zu diesem Zweck hat das FLI zahlreiche Bemühungen angeführt.
Im Jahr 2017 haben wir die einflussreichen Asilomar AI Principles entwickelt, eine Reihe von Governance-Grundsätzen, die von Tausenden führender Köpfe in der KI-Forschung und -Industrie unterzeichnet wurden. Kürzlich löste unser offener Brief 2023 eine weltweite Debatte über den rechtmäßigen Platz der KI in unserer Gesellschaft aus. FLI hat vor dem US-Kongress, dem Europäischen Parlament und anderen wichtigen Gerichtsbarkeiten Stellung genommen.
Ausgewähltes Projekt
Wir dürfen KI nicht entwickeln, um Menschen zu ersetzen.
Ein neuer Essay von Anthony Aguirre, Geschäftsführer des Future of Life Institute
Die Menschheit steht kurz davor, eine künstliche allgemeine Intelligenz zu entwickeln, die unsere eigene übertrifft. Es ist an der Zeit, die Tore zu AGI und Superintelligenz zu schließen... bevor wir die Kontrolle über unsere Zukunft verlieren.
Unsere Arbeit
Projektdatenbank
Religiöse Perspektiven auf eine positive KI-Zukunft
Der Großteil der Weltbevölkerung gehört einer Religion an. Dennoch sind die Perspektiven dieser Religionen in den strategischen Diskussionen über künstliche Intelligenz weitgehend abwesend. Diese Initiative zielt darauf ab, religiöse Gruppen dabei zu unterstützen, ihre glaubensspezifischen Bedenken und Hoffnungen für eine Welt mit KI zu äußern und mit ihnen zusammenzuarbeiten, um Schäden abzuwenden und Vorteile zu realisieren.
KI-Sicherheitsgipfel
Die Regierungen erkunden die Zusammenarbeit bei der Navigation in einer Welt mit fortschrittlicher KI. FLI steht ihnen mit Rat und Tat zur Seite.
Forschung zu kritischen Sicherheitsstandards für fortgeschrittene KI
Unser US-Politikteam berät politische Entscheidungsträger im Kongress und in den Legislativen der US-Bundesstaaten darüber, wie sichergestellt werden kann, dass KI-Systeme sicher und nützlich sind.
Auseinandersetzung mit AI Executive Orders
Wir bieten formellen Input für Behörden in der gesamten US-Regierung, einschließlich technischem und politischem Fachwissen zu einem breiten Spektrum von Themen wie Exportkontrollen, Hardware-Governance, Standardisierung, Beschaffungswesen und mehr.
KI-Konvergenz: Risiken am Schnittpunkt von KI zu nuklearen, biologischen und Cyber-Bedrohungen
Das Gefahrenpotenzial von KI-Systemen kann die Gefahrenpotenziale anderer Technologien verstärken – dies wird als KI-Konvergenz bezeichnet. Wir bieten politischen Entscheidungsträgern in den Vereinigten Staaten politische Expertise in drei wichtigen Konvergenzbereichen: Bio-, Nuklear- und Cybertechnologien.
Umsetzung des europäischen AI-Gesetzes
Zu unseren wichtigsten Empfehlungen gehören die Ausweitung des Geltungsbereichs des Gesetzes zur Regulierung von allgemeinen KI-Systemen, sowie die Ausweitung der Definition verbotener Manipulation auf alle Arten von Manipulationstechniken sowie auf Manipulationen, die gesellschaftlichen Schaden verursachen.
Aufklärung über tödliche autonome Waffen
Militärische KI-Anwendungen breiten sich rasch aus. Wir entwickeln Bildungsmaterial darüber, wie bestimmte Klassen von KI-gesteuerten Waffen der nationalen Sicherheit schaden und die Zivilisation destabilisieren können, wie etwa Waffen, bei denen Tötungsentscheidungen vollständig an Algorithmen delegiert werden.
Unsere gesamte Arbeit
Unsere Inhalte
Aktuelle Politik- und Forschungspapiere
Produziert von uns
Sicherheitsstandards zur Bereitstellung kontrollierbarer und nützlicher AI-Tools
Februar 2025
Rahmen für den verantwortungsvollen Einsatz von KI im Nuklearbereich
Februar 2025
FLI AI-Sicherheitsindex 2024
Dezember 2024
FLI für den AI-Aktionsgipfel
November 2024
Mehr laden
Alle Dokumente
Mit unseren Mitarbeitern und Stipendiaten
Eine Taxonomie der systemischen Risiken von KI für allgemeine Zwecke
Risto Uuk, Carlos Ignacio Gutierrez, Lode Lauwaert, Carina Prunkl, Lucia Velasco
Januar 2025
Wirksame Abhilfemaßnahmen für systemische Risiken durch KI für allgemeine Zwecke
Risto Uuk, Annemieke Brouwer, Tim Schreier, Noemi Dreksler, Valeria Pulignano, Rishi Bommasani
Januar 2025
Untersuchung populärer Argumente gegen das existenzielle Risiko von KI: Eine philosophische Analyse
Torben Swoboda, Risto Uuk, Lode Lauwaert, Andrew Peter Rebera, Ann-Katrien Oimann, Bartlomiej Chomanski, Carina Prunkl
Januar 2025
Das AI Risk Repository: Meta-Review, Datenbank und Taxonomie
Peter Slattery, Alexander K. Saeri, Emily A. C. Grundy, Jess Graham, Michael Noetel, Risto Uuk, James Dao, Soroush Pour, Stephen Casper, Neil Thompson
August 2024
Mehr laden
Ressourcen
Wir stellen hochwertige politische Ressourcen zur Unterstützung von Entscheidungsträgern bereit
US-Bundesbehörden: Kartierung von AI-Aktivitäten
Dieser Leitfaden gibt einen Überblick über die KI-Aktivitäten der US-Exekutive und konzentriert sich dabei auf Regulierungsbehörden, Budgets und Programme.
9 September, 2024
EU AI Act Explorer und Compliance Checker
Lesen Sie den vollständigen Text des KI-Gesetzes online und erfahren Sie in 10 Minuten, wie sich das KI-Gesetz auf Sie auswirken wird, indem Sie eine Reihe von einfachen Fragen beantworten.
15 Januar, 2024
Website über autonome Waffensysteme
Das Zeitalter, in dem Algorithmen über Leben und Tod entscheiden, ist angebrochen. Wir müssen jetzt handeln, um diese Waffen zu verbieten und zu regulieren.
20 November, 2017
Geografischer Fokus
Wo Sie uns finden können
Als Organisation streuen wir unsere Aktivitäten. Der Großteil unserer politischen Arbeit findet in den USA (D.C. und Kalifornien), in der EU (Brüssel) und bei den Vereinten Nationen (New York und Genf) statt.
Vereinigte Staaten
In den USA beteiligt sich FLI an der Arbeitsgruppe des US AI Safety Institute und fördert die KI-Gesetzgebung auf Landes- und Bundesebene.
Europäische Union
In Europa liegt unser Schwerpunkt auf der konsequenten Umsetzung der EU-KI-Gesetzgebung und der Ermutigung europäischer Staaten, einen Vertrag über autonome Waffen zu unterstützen.
Vereinte Nationen
Bei den Vereinten Nationen setzt sich FLI für einen Vertrag über autonome Waffen und eine neue internationale Agentur zur Governance von KI ein.
Unsere wichtigsten Partner
Errungenschaften
Einige der von uns erzielten Erfolge
Entwicklung der AI Asilomar Principles
Im Jahr 2017 koordinierte FLI die Entwicklung der Asilomar AI Principles, eine der frühesten und einflussreichsten Sammlungen von KI-Governance-Grundsätzen.
Ansicht der Grundsätze
KI-Empfehlung im Plan der UN für digitale Zusammenarbeit
Unsere Empfehlungen (3C) zur globalen Governance von KI-Technologien wurden in die Pläne zur digitalen Zusammenarbeit des UN-Generalsekretärs aufgenommen.
Die Pläne ansehen
Stellungnahme von Max Tegmark vor dem EU-Parlament
Unser Gründer und Vorstandsmitglied Max Tegmark hat vor dem EU-Parlament eine Stellungnahme zur Regulierung von vielseitig einetzbaren KI-Systemen abgegeben.
Sehen Sie sich die Stellungnahme an
Unsere Inhalte
Ausgewählte Beiträge
Hier finden Sie eine Auswahl von Beiträgen, die sich auf unsere politische Arbeit beziehen:
Kontext und Agenda für den KI-Aktionsgipfel 2025
Der AI Action Summit wird vom 10. bis 11. Februar 2025 in Paris stattfinden. Hier finden Sie die Tagesordnung und die wichtigsten Ergebnisse.
31 Januar, 2025
FLI Erklärung zum Memorandum des Weißen Hauses zur nationalen Sicherheit
Letzte Woche veröffentlichte das Weiße Haus ein National Security Memorandum über KI-Governance und Risikomanagement. Das NSM enthält Leitlinien [...]
28 Oktober, 2024
Pariser KI-Sicherheitsfrühstück #2: Dr. Charlotte Stix
Die zweite Veranstaltung unserer "KI-Sicherheitsfrühstücksreihe" mit Dr. Charlotte Stix zu Modellevaluierungen, trügerischem KI-Verhalten und den KI-Sicherheitsgipfeln.
14 Oktober, 2024
US-Repräsentantenhaus fordert gesetzliche Haftung für Deepfakes
Jüngste Erklärungen aus dem US-Repräsentantenhaus erinnern an die dringende Bedrohung, die Deepfakes für unsere Gesellschaft darstellen, insbesondere im Vorfeld der US-Präsidentschaftswahlen.
1 Oktober, 2024
Stellungnahme zum Veto gegen das kalifornische Gesetz SB 1047
"Die wütende Lobbyarbeit gegen das Gesetz kann nur auf eine Weise interpretiert werden: Diese Unternehmen glauben, dass sie nach ihren eigenen Regeln spielen und niemandem Rechenschaft schuldig sein sollten. Dieses Veto bestärkt sie nur in diesem Glauben. Jetzt ist es an der Zeit für eine Gesetzgebung auf Landes-, Bundes- und globaler Ebene, um Big Tech an ihre Verpflichtungen zu binden.
30 September, 2024
Panda vs. Adler
Der Direktor für politische Arbeit des FLI erklärt, warum dem nationalen Interesse der USA mit einer kooperativen Strategie gegenüber China viel besser gedient ist als mit einer feindlichen.
27 September, 2024
US-Bundesbehörden: Kartierung von AI-Aktivitäten
Dieser Leitfaden gibt einen Überblick über die KI-Aktivitäten der US-Exekutive und konzentriert sich dabei auf Regulierungsbehörden, Budgets und Programme.
9 September, 2024
Pariser AI Safety Breakfast #1: Stuart Russell
Die erste Veranstaltung unserer Reihe "KI-Sicherheitsfrühstück" mit Stuart Russell über wichtige Entwicklungen im Bereich der KI, KI-Forschungsprioritäten und die KI-Sicherheitsgipfel.
5 August, 2024
Unsere Inhalte
Kontaktieren Sie uns
Wir bringen Sie mit der richtigen Person in Kontakt.
Wir tun unser Bestes, um alle eingehenden Anfragen innerhalb von drei Werktagen zu beantworten. Unser Team ist über den ganzen Globus verteilt. Bitte nehmen Sie Rücksicht und denken Sie daran, dass die Person, die Sie kontaktieren, sich möglicherweise nicht in Ihrer Zeitzone befindet.
Bitte richten Sie Medienanfragen und Einladungen zu Vorträgen für Max Tegmark an press@futureoflife.org. Alle anderen Anfragen können an contact@futureoflife.orggesendet werden.