Entries by a guest blogger

The Psychology of Existential Risk: Moral Judgments about Human Extinction

By Stefan Schubert This blog post reports on Schubert, S.**, Caviola, L.**, Faber, N. The Psychology of Existential Risk: Moral Judgments about Human Extinction. Scientific Reports [Open Access]. It was originally posted on the University of Oxford’s Practical Ethics: Ethics in the News blog. Humanity’s ever-increasing technological powers can, if handled well, greatly improve life […]

Sapiens Plurum Short Fiction Winner: Mildred 302.0

In honor of Earth Day, FLI teamed up with Sapiens Plurum to sponsor a short fiction writing contest. This year’s prompt asked writers to describe their vision for a better future. We received hundreds of inspiring submissions, and our judges did not have an easy choice to make. But we think you’ll agree that the winning […]

Highlights From NeurIPS 2018

The Top Takeaway from Google’s Attempt to Remove Racial Biases From AI By Jolene Creighton Algorithms don’t just decide what posts you see in your Facebook newsfeed. They make millions of life-altering decisions every day. They help decide who moves to the next stage of a job interview, who can take out a loan, and […]

Handful of Countries – Including the US and Russia – Hamper Discussions to Ban Killer Robots at UN

This press release was originally released by the Campaign to Stop Killer Robots and has been lightly edited. Geneva, 26 November 2018 – Reflecting the fragile nature of multilateralism today, countries have agreed to continue their diplomatic talks on lethal autonomous weapons systems—killer robots—next year. But the discussions will continue with no clear objective and […]

Benefits & Risks of Biotechnology

“This is a whole new era where we’re moving beyond little edits on single genes to being able to write whatever we want throughout the genome.” -George Church, Professor of Genetics at Harvard Medical School How are scientists putting nature’s machinery to use for the good of humanity, and how could things go wrong? Biotechnology […]

A Summary of Concrete Problems in AI Safety

By Shagun Sodhani Click here to see this page in other languages:  Russian  It’s been nearly two years since researchers from Google, Stanford, UC Berkeley, and OpenAI released the paper, “Concrete Problems in AI Safety,” yet it’s still one of the most important pieces on AI safety. Even after two years, it represents an excellent introduction […]

Scientists to Congress: The Iran Deal is a Keeper

The following article was written by Dr. Lisbeth Gronlund and originally posted on the Union of Concerned Scientists blog. The July 2015 Iran Deal, which places strict, verified restrictions on Iran’s nuclear activities, is again under attack by President Trump. This time he’s kicked responsibility over to Congress to “fix” the agreement and promised that […]

Understanding Artificial General Intelligence — An Interview With Hiroshi Yamakawa

Click here to see this page in other languages : Japanese    Russian Artificial general intelligence (AGI) is something of a holy grail for many artificial intelligence researchers. Today’s narrow AI systems are only capable of specific tasks — such as internet searches, driving a car, or playing a video game — but none of the systems today […]

Full Transcript: Understanding Artificial General Intelligence — An Interview With Dr. Hiroshi Yamakawa

Click here to see this page in other languages : Japanese    Russian Hiroshi Yamakawa is the Director of Dwango AI Laboratory, Director, the Chairperson of the Whole Brain Architecture Initiative (WBAI), a specified non-profit organization and Chief Editor of the Japanese Society for Artificial Intelligence (JSAI). He is also the Visiting Professor at the Graduate School […]


Click here to see this page in other languages : English  Russian 山川 宏 工学博士。 ㈱ドワンゴ ドワンゴ人工知能研究所所長、NPO法人全脳アーキテクチャ・イニシアティブ代表、人工知能学会の編集委員長、理事、汎用人工知能研究会の発起人の一人。電気通信大学大学院情報システム学研究科客員教授 、玉川大学脳科学研究所特別研究員、慶應義塾大学SFC研究所上席所員、東京大学医学部客員研究員。産総研人工知能研究センター客員研究員。 専門は人工知能,特に、認知アーキテクチャ、概念獲得、ニューロコンピューティング、意見集約技術など。 1. 山川さんが人工知能の研究をキャリアとして選択したきっかけは何ですか? 1の答え:山川さん 高校生時代に、物理学と心理学に興味があり、悩んだ末に大学では物理学の道を選びました。私が大学4年生だった1980年代は日本では第2次人工知能ブームと言われているころで、私も先輩から人工知能の話を聞かされていました。当時の記号主義的な人工知能では、世界は記号によって記述され、それら記号の操作によって知能を構築しようとしていました。私はそうした記号主義的な人工知能は腑に落ちず、大学院の修士課程では物理を専攻することにしました。 そして、80年代の終わり頃にニューラルネットワークブームがやってきます。今も有名なヒントン氏らが活躍しはじめた時代です。私は人工知能の研究としてはその方向性のほうが良いという直観を持ち、1989年からの博士課程の三年間では、研究をニューラルネットワークにシフトしました。人が自身の価値体系をいかに作るかに興味があったので、そのために強化学習(reinforcement learning)の研究を1990年ぐらいから始めたのです。そして、「強化学習に基づく価値システム」をテーマに博士論文を書きました。実は同じ頃にワトキンス氏がQラーニングを提案していたのですが、インターネットが普及する以前ということもあり、二年ほど後になって初めてそのことを知り「ああ、同じようなことを考えている人がいるものだなあ」と思ったものです。 1992年からは富士通研究所という会社において研究を続け、1994年頃にはオートエンコーダネットワーク(ニューラルネットワークを使用したエンコーダネットワーク)を二段に積み上げる研究などにも着手しましたが、当時はトイモデルしか解けませんでした。その後、創造性を持った知能、つまりクリエイティブインテリジェンスというのが大事だと思い至ったのが、90年代の後半ぐらいです。今で言う、自己再帰的な発展を担う人工知能です。当時はまだ、技術的特異点(シンギュラリティ)という言葉は日本国内では殆ど知られておらず、2000年代後半にようやく「だいぶ以前から、そうしたアイディアを持つ人がいた」と気づきました。 何れにしても、高校時代から心理学に興味があり、ニューラルネットワークブームの時にその可能性を感じて、人工知能の研究を始めたわけです。 2.ドワンゴがこの分野に大型投資をする理由は何ですか?投資回収はいつ頃を予定していますか? 2の答え:山川さん まず、日本の「将棋」というゲームはご存知でしょうか? 将棋はチェスと似ていますが、相手から奪ったコマを自分のものとして使えるルールがあるため、終盤の展開が複雑となり、2014年頃にようやく人工知能がトッププロを追いついたとされています。 ドワンゴは2010年から、プロの棋士とコンピュータ将棋ソフトウェアが対戦するイベント「電王戦」を長く続けてきました。このイベントを支えたのは川上(かわかみ)という、当時40代前半ぐらいの若い会長です。川上氏は、人工知能が次第にプロ棋士に肉薄し、プロが年々苦しくなってゆく様を見ていました。そうした中で経営者の判断として、社内に人工知能の研究所を作りたいと、ある時点から思っていたそうです。 一方、私が東京大学の松尾豊氏と産業技術総合研究所の一杉裕志氏とともに、脳に学んだ人工知能を目指すために日本国内で開始した活動が「全脳アーキテクチャ」です。2013年12月19日に最初の勉強会を行ったこの活動は、現在ではFacebookグループに4300人ほどが参加する活動になっています。2014年には、ドワンゴの川上会長が全脳アーキテクチャ勉強会に参加し、程なくしてドワンゴ人工知能研究所の設置のオファーを受けました。ドワンゴ人工知能研究所を設立した2014年の10月当時は、その後、人工知能の発展がこれ程までに急速になるとは予測していませんでした。 そうした背景もあり、この研究所はドワンゴの実利を追求するよりも、長期的な投資という位置づけでスタートしました。現在に至るまで、将来において大きな影響を与えると予想される汎用人工知能の開発を小規模なチームで進めています。 現状で実用化されている人工知能はすべて特定の問題領域のみで利用できる特化型人工知能です。これに対して、汎用人工知能は経験に応じて様々な問題を解決できるようになる、より人間に近い人工知能です。どことなく、IPS細胞に似た雰囲気とも言えるかと思います。また、汎用人工知能は「技術的に捉えやすい形で人を超える人工知能を定義したもの」とみることもできます。 実は世界的に見ると、2015年に汎用人工知能を目指すと宣言した組織が倍増しました。主な組織は、GoodAI、DeepMind、OpenAIです。ではなぜこのタイミングで、汎用人工知能を目指す組織が倍増したのでしょうか。この背景には、やはり深層学習の発展があります。 人工知能分野は、伝統的に記号を中心として進展してきました。人間が記述した知識を組み合わせることで能力を発揮する人工知能が主流だったのです。これは人間で言うと“大人の”能力で、言葉に書き表される能力です。そのため、この知能はプログラミング可能であり、計算機の進展と軌を一にして順調に進展しました。一方、子供が発達する中で物を認識できるようになったり物を掴んで動かせるようになったりする能力、つまり“子供の”人工知能は、言葉では説明しづらいものです。このため、プログラミングがしづらく、発展が阻まれていました。これはモラベックのパラドックスとも呼ばれます。 しかし、深層学習の研究が進み、こうした“子供の”人工知能を実現することが大量データからの学習で可能になりました。また、深層学習が獲得した内容を理解することは重要な技術課題となっています。このことは、これまで“子供の”人工知能が説明できないものだったからこそ深層学習の進展を待たなくてはならなかったという経緯を踏まえれば、納得できる面もあります。 付け加えれば、ドワンゴ人工知能研究所は、最近GoodAIが主催している、General AI Challenge (https://www.general-ai-challenge.org/ ) にも協力しました。 以前より、大人の知能についてはAIがしばしば人間以上の能力を発揮していました。最近の深層学習の成功により子供の知能が実現したことで、人工知能を構成する基本的な二つの要素が利用可能になりました。ですから、人間並みの汎用人工知能にアプローチする際の今後の大きな課題は、両者をどうやってつなげていくかという段階に入ったと言えます。今、人工知能分野が汎用人工知能や人レベルの人工知能に向かい始めた理由は、正にそこにあると考えられます。 さて、ドワンゴ人工知能研究所のドワンゴ本体にとっての短期的な役割としては、人工知能に興味を持つ人材を引きつけるためのフラグシップとしての役割や学術界との連携などが期待されています。ドワンゴは日本では有数のネットメディアの会社で、主要事業として視聴者が画面上にコメントを付与できる動画配信サービス「ニコニコ動画」などがあります。事業部においては、コミュニティの活性化を促進するようなツールやサービスなどにおいて最近の機械学習技術が使われています。 現段階では、汎用人工知能(AGI)は技術的な目標であり経済的利益を直接生み出していません。 人のような知能をめざす汎用人工知能は未だ技術的な目標であり、現段階では稼働しておらず経済価値を生み出していません。しかし先に述べたように、すでに開発を宣言している組織も増えており、公言せずに進めている組織も増えてきていると思われます。これは2013年頃には汎用人工知能の開発という話が全く相手にされなかった頃とは大きな違いです。 すでに、深層強化学習と強化学習を組合せた知的エージェントは、いまだ限定的とはいえ多様な問題に対してアプローチできるようになり、次第にプロダクト化に近づいてきています。ここで技術的に大事なのは、複数の機械学習の組合せ方法を規定するアーキテクチャです。深層学習をはじめとする機械学習の発展を背景に、取り扱う情報の枠組みを決定すれば、それに関わるデータから知識を引き出すことはかなり実現できるようになりました。そこで次の段階として、複数の機械学習モジュールがデータから獲得した知識を結合して利用するためのアーキテクチャの重要性が高まっています。 今後は特に、アーキテクチャという観点からの研究開発に十分力を入れることで、次第に汎用性の高い人工知能システムを構築できるようになり、その開発段階に応じて応用が次第にあらわれてくると考えています。 3. ほかの人工知能研究と比較した、全脳アーキテクチャ・アプローチの利点は何でしょうか? 3の答え:山川さん 全脳アーキテクチャは「脳全体のアーキテクチャに学び人のような汎用人工知能を創る(工学)」という研究アプローチです。この定義は、後に述べる全脳アーキテクチャ・イニシアティブ(WBAI)(日本語版: http://wba-initiative.org , 英語版: http://wba-initiative.org/en/ )の創設に関与した研究者間によって、2014〜15年にかけて議論を行うことで確定されました。つまり脳型人工知能であり汎用人工知能です。基本的には人工ニューラルネットワークなどの機械学習をモジュールとし、それらモジュールを脳の結線を参考として統合することで汎用人工知能を作ろうとします。ただし、あくまでも手段として脳を参考にするのであって、脳の理解が目的ではありません。このため、脳の仕組みを必要以上に詳細には再現しようとはせず、できれば可能な限り粗いレベルで開発しようとしています。 以下ではこのアプローチで完成する汎用人工知能の特性についてのメリットと、開発速度についてのメリットを説明しましょう。 […]

Killer robots: World’s top AI and robotics companies urge United Nations to ban lethal autonomous weapons

Press release from Faculty of Engineering at UNSW, Sydney, Australia. Open letter by leaders of leading robotics & AI companies is launched at the world’s biggest artificial intelligence conference as UN delays meeting till later this year to discuss the robot arms race An open letter signed by 116 founders of robotics and artificial intelligence […]

United Nations Adopts Ban on Nuclear Weapons

Today, 72 years after their invention, states at the United Nations formally adopted a treaty which categorically prohibits nuclear weapons. With 122 votes in favor, one vote against, and one country abstaining, the “Treaty on the Prohibition of Nuclear Weapons” was adopted Friday morning and will open for signature by states at the United Nations […]

FHI Quarterly Update (July 2017)

The following update was originally posted on the FHI website: In the second 3 months of 2017, FHI has continued its work as before exploring crucial considerations for the long-run flourishing of humanity in our four research focus areas: Macrostrategy – understanding which crucial considerations shape what is at stake for the future of humanity. […]

U.S. Conference of Mayors Unanimously Adopts Mayors for Peace Resolution

Conference also Adopts Two Additional Resolutions Calling for Reversal of Military Spending to Meet the Needs of Cities Miami Beach, FL – At the close of its 85th Annual Meeting on Monday June 26, 2017, the United States Conference of Mayors (USCM), for the 12th consecutive year, adopted a strong resolution put forward by Mayors for Peace. The resolution, “Calling […]

Testimony by Fujimori Toshiki, Hiroshima Survivor

The following post is the statement presented by Hiroshima survivor Fujimori Toshiki to the United Nations on the first day of negotiations for a treaty to ban nuclear weapons. United Nations conference to negotiate a legally binding instrument to prohibit nuclear weapons, leading towards their total elimination New York, 27 March 2017 Testimony by Fujimori […]

The AI Debate Must Stay Grounded in Reality

The following article was written by Vincent Conitzer and originally posted in Prospect Magazine. Progress in artificial intelligence has been rapid in recent years. Computer programs are dethroning humans in games ranging from Jeopardy to Go to poker. Self-driving cars are appearing on roads. AI is starting to outperform humans in image and speech recognition. […]