Unsere Mission
Wir wollen transformative Technologie lenken, sodass sie dem Leben zugutekommt und extreme Risiken vermeidet.
Wir glauben, der wichtigste Faktor für die Zukunftsaussichten des Lebens wird die Herangehensweise sein, mit der transformative Technologien entwickelt und eingesetzt werden. Deshalb haben wir es uns zur Aufgabe gemacht, dafür zu sorgen, dass sich diese Aussichten weiter verbessern.
Neueste Updates
Aktuelles
Die Gewinner von Superintelligence Imagined, unserem mit 70.000 Dollar dotierten Kreativwettbewerb über die Risiken der Superintelligenz, stehen fest, darunter der Gewinner des Hauptpreises "Writing Doom" und eine Reihe weiterer Videos, Kurzgeschichten, Spiele und Multimediaarbeiten! Werfen Sie einen Blick auf einige sehr beeindruckende Bemühungen, das Publikum über hochentwickelte KI-Systeme aufzuklären.
Problembereiche
Die Risiken, auf die wir uns konzentrieren
Derzeit beschäftigen wir uns mit drei großen Risiken. Für sie alle ist die Entwicklung, der Einsatz und die Steuerung von transformativen Technologien ein Dreh- und Angelpunkt. Wir konzentrieren unsere Bemühungen darauf, die Auswirkungen dieser Technologien zu lenken.
Künstliche Intelligenz
Von Empfehlungsalgorithmen über Chatbots bis hin zu selbstfahrenden Autos – KI verändert unser Leben. Während die Technologie immer mehr an Bedeutung gewinnt, werden auch die damit verbundenen Risiken größer.
Künstliche Intelligenz
Biotechnologie
Vom versehentlichen Freilassen künstlicher Erreger bis hin zu katastrophalen Folgen von gentechnischen Experimenten—die Gefahren der Biotechnologie sind zu groß, um blind voranzuschreiten.
Biotechnologie
Atomwaffen
Fast achtzig Jahre nach ihrer Entwicklung sind die Risiken, die von Atomwaffen ausgehen, so hoch wie eh und je – und neue Forschungsergebnisse zeigen, dass die Auswirkungen eines Atomkriegs noch schlimmer wären als bisher angenommen.
Atomwaffen
Autonome Drohnen vom Typ UAV Kargu auf dem Campus des OSTIM Technopark in Ankara, Türkei - Juni 2020.
Unsere Arbeit
Wie wir diese Probleme angehen
Es gibt viele potenzielle Ansatzpunkte, um die Entwicklung und den Einsatz von transformativen Technologien zu steuern. Wir setzen an einer Reihe dieser Punkte an, um unsere Erfolgschancen zu erhöhen.
Politische Arbeit
Wir leisten politische Interessensvertretung in den Vereinigten Staaten, der Europäischen Union und den Vereinten Nationen.
Unsere politische ArbeitOutreach
Wir produzieren Bildungsmaterialien, die den öffentlichen Diskurs informieren und Menschen ermutigen sollen, sich zu engagieren.
Unsere Outreach-ArbeitVergabe von Förderung
Wir vergeben Fördergelder an Einzelpersonen und Organisationen, die an Projekten arbeiten, die unserem Mission vorantreiben.
Unsere FörderprogrammeVeranstaltungen
Wir versammeln führende Vertreter der einschlägigen Bereiche, um zu erörtern, wie die sichere Entwicklung und Nutzung leistungsstarker Technologien gewährleistet werden kann.
Unsere VeranstaltungenAusgewählte Projekte
Woran wir arbeiten
Informieren Sie sich über einige unserer aktuellen Projekte:
Kampf gegen Deepfakes
Das Jahr 2024 entwickelt sich schnell zum Jahr der Fakes. Als Teil einer wachsenden Koalition besorgter Organisationen fordert FLI Gesetzgeber auf, sinnvolle Schritte zu unternehmen, um die KI-getriebene Deepfake-Lieferkette zu unterbrechen.
Wettbewerb zu Visonen der Superintelligenz
Ein Wettbewerb für die besten Bildungsmaterialien zum Thema
Superintelligenz, die damit verbundenen Risiken und die Auswirkungen
dieser Technologie auf unsere Welt. 5 Preise zu je 10.000 $.
Religiöse Perspektiven auf eine positive KI-Zukunft
Der Großteil der Weltbevölkerung gehört einer Religion an. Dennoch sind die Perspektiven dieser Religionen in den strategischen Diskussionen über künstliche Intelligenz weitgehend abwesend. Diese Initiative zielt darauf ab, religiöse Gruppen dabei zu unterstützen, ihre glaubensspezifischen Bedenken und Hoffnungen für eine Welt mit KI zu äußern und mit ihnen zusammenzuarbeiten, um Schäden abzuwenden und Vorteile zu realisieren.
Der Brief der Ältesten zu existenziellen Bedrohungen
Die Ältesten, das Future of Life Institute und eine Reihe herausragender Persönlichkeiten des öffentlichen Lebens fordern die Staats- und Regierungschefs der Welt auf, sich dringend mit den anhaltenden Schäden und eskalierenden Risiken durch die Klimakrise, Pandemien, Atomwaffen und unkontrollierte künstliche Intelligenz auseinanderzusetzen.
Realisierung erstrebenswerter Zukunftsvisionen - Neue FLI-Fördermöglichkeiten
Wir stellen zwei neue Fördermöglichkeiten bereit, um Forschung zur sicheren Nutzung von KI zu unterstützen und so die Welt zu einem besseren Ort zu machen.
KI-Konvergenz: Risiken am Schnittpunkt von KI zu nuklearen, biologischen und Cyber-Bedrohungen
Das Gefahrenpotenzial von KI-Systemen kann die Gefahrenpotenziale anderer Technologien verstärken – dies wird als KI-Konvergenz bezeichnet. Wir bieten politischen Entscheidungsträgern in den Vereinigten Staaten politische Expertise in drei wichtigen Konvergenzbereichen: biologische, nukleare und Cybertechnologien.
Stärkung der Europäischen Verordnung über Künstliche Intelligenz
Zu unseren wichtigsten Empfehlungen gehören die Ausweitung des Geltungsbereichs des Gesetzes zur Regulierung von allgemeinen KI-Systemen, sowie die Ausweitung der Definition verbotener Manipulation auf alle Arten von Manipulationstechniken sowie auf Manipulationen, die gesellschaftlichen Schaden verursachen.
Aufklärung über tödliche autonome Waffen
Militärische KI-Anwendungen breiten sich rasch aus. Wir entwickeln Bildungsmaterial darüber, wie bestimmte Klassen von KI-gesteuerten Waffen der nationalen Sicherheit schaden und die Zivilisation destabilisieren können, wie etwa Waffen, bei denen Tötungsentscheidungen vollständig an Algorithmen delegiert werden.
Globale KI-Governance bei den UN
Unsere Beteiligung an der Arbeit der Vereinten Nationen erstreckt sich über mehrere Jahre und Initiativen, darunter die Roadmap for Digital Cooperation und der Global Digital Compact (GDC).
Worldbuilding-Wettbewerb
Das Future of Life Institute akzeptierte Bewerbungen von Teams aus aller Welt für ein Preisgeld von bis zu 100.000 $. Sie sollten Visionen einer plausiblen, erstrebenswerten Zukunft entwerfen, die starke künstliche Intelligenz beinhaltet.
Der Future of Life Award
Jedes Jahr wird dieser Preis an einen oder mehrere unbesungene Helden verliehen, die einen bedeutenden Beitrag zur Erhaltung der Zukunft des Lebens geleistet haben.
Alle Projekte anzeigen
Newsletter
Regelmäßige Updates zu den Technologien, die unsere Welt verändern
Jeden Monat informieren wir mehr als 41.000 Abonnenten über die neuesten Entwicklungen im Bereich neuer Technologien, die unsere Welt verändern. Der Newsletter enthält eine Zusammenfassung der wichtigsten Entwicklungen in unseren Problembereichen und wichtige Updates zu unserer Arbeit. Abonnieren Sie unseren Newsletter, um diese Highlights am Ende jeden Monats zu erhalten.
Future of Life Institute Newsletter: Veranschaulichung von Superintelligenz
Brauchen Sie eine Pause von den US-Wahlnachrichten? Entdecken Sie die Ergebnisse unseres 70.000-Dollar-Kreativwettbewerbs, neue KI-Richtlinien für die nationale Sicherheit aus dem Weißen Haus, Umfragen unter Jugendlichen zum Thema KI und vieles mehr.
Maggie Munro
1 November, 2024
Future of Life Institute Newsletter: SB 1047: Gouverneur Newsom gibt Big Tech nach
Ein enttäuschendes Ergebnis für das Gesetz über die Sicherheit von künstlicher Intelligenz, Neuigkeiten von der UNGA, unser 1,5-Millionen-Dollar-Zuschuss für die Forschung zur globalen Risikokonvergenz und mehr.
Maggie Munro
1 Oktober, 2024
Future of Life Institute Newsletter: Kaliforniens KI-Sicherheitsgesetz liegt auf dem Schreibtisch des Gouverneurs
Neueste Updates zur Politikgestaltung, Halbierung des OpenAI-Sicherheitsteams, Annäherung an ein AWS-Abkommen und mehr.
Maggie Munro
30 August, 2024
Frühere Ausgaben lesen
Unsere Inhalte
Neueste Beiträge
Die neuesten Beiträge, die wir veröffentlicht haben:
Max Tegmark: AGI-Manhattan-Projekt-Vorschlag ist wissenschaftlicher Betrug
In einem neuen Bericht für den Kongress wird empfohlen, dass die USA ein "Manhattan-Projekt" zur Entwicklung künstlicher allgemeiner Intelligenz starten. Ein solches Projekt wäre ein Selbstmordrennen.
20 November, 2024
FLI Erklärung zum Memorandum des Weißen Hauses zur nationalen Sicherheit
Letzte Woche veröffentlichte das Weiße Haus ein National Security Memorandum über KI-Governance und Risikomanagement. Das NSM enthält Leitlinien [...]
28 Oktober, 2024
Pariser AI-Sicherheitsfrühstück #3: Yoshua Bengio
Die dritte Veranstaltung unserer Reihe "AI Safety Breakfasts" mit Yoshua Bengio über die Entwicklung von KI-Fähigkeiten, Kontrollverlustszenarien und proaktive gegenüber reaktiver Verteidigung.
16 Oktober, 2024
Pariser AI-Sicherheitsfrühstück #2: Dr. Charlotte Stix
Die zweite Veranstaltung unserer Reihe "KI-Sicherheitsfrühstücke" mit Dr. Charlotte Stix zu Modellevaluierungen, betrügerischem KI-Verhalten und den KI-Sicherheits- und Aktionsgipfeln.
14 Oktober, 2024
Alle Beiträge anzeigen
Papiere
Die jüngsten von uns veröffentlichten Strategie- und Forschungspapiere:
Feedback zum wissenschaftlichen Gremium unabhängiger Sachverständiger Durchführungsverordnung
November 2024
Kodifizierung des US AI Safety Institute (FAIIA vs. AIARA)
November 2024
Input zu den AI-Berichtsanforderungen des Bundes
Oktober 2024
Umsetzung der KI-Roadmap des Senats
Juni 2024
Alle Beiträge anzeigen
Future of Life Institute Podcast
Unsere neuesten Folgen:
Alle Episoden anzeigen
