1.0Future of Life Institutehttps://futureoflife.orgrich600338<blockquote class="wp-embedded-content" data-secret="IeeorvY1xi"><a href="https://futureoflife.org/translation/%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e8%83%bd%e6%9c%89%e5%a4%9a%e8%81%aa%e6%98%8e%ef%bc%9f/">How Smart Can AI Get? Chinese</a></blockquote><iframe sandbox="allow-scripts" security="restricted" src="https://futureoflife.org/translation/%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e8%83%bd%e6%9c%89%e5%a4%9a%e8%81%aa%e6%98%8e%ef%bc%9f/embed/#?secret=IeeorvY1xi" width="600" height="338" title="“How Smart Can AI Get? Chinese” — Future of Life Institute" data-secret="IeeorvY1xi" frameborder="0" marginwidth="0" marginheight="0" scrolling="no" class="wp-embedded-content"></iframe><script type="text/javascript"> /* <![CDATA[ */ /*! This file is auto-generated */ !function(d,l){"use strict";l.querySelector&&d.addEventListener&&"undefined"!=typeof URL&&(d.wp=d.wp||{},d.wp.receiveEmbedMessage||(d.wp.receiveEmbedMessage=function(e){var t=e.data;if((t||t.secret||t.message||t.value)&&!/[^a-zA-Z0-9]/.test(t.secret)){for(var s,r,n,a=l.querySelectorAll('iframe[data-secret="'+t.secret+'"]'),o=l.querySelectorAll('blockquote[data-secret="'+t.secret+'"]'),c=new RegExp("^https?:$","i"),i=0;i<o.length;i++)o[i].style.display="none";for(i=0;i<a.length;i++)s=a[i],e.source===s.contentWindow&&(s.removeAttribute("style"),"height"===t.message?(1e3<(r=parseInt(t.value,10))?r=1e3:~~r<200&&(r=200),s.height=r):"link"===t.message&&(r=new URL(s.getAttribute("src")),n=new URL(t.value),c.test(n.protocol))&&n.host===r.host&&l.activeElement===s&&(d.top.location.href=t.value))}},d.addEventListener("message",d.wp.receiveEmbedMessage,!1),l.addEventListener("DOMContentLoaded",function(){for(var e,t,s=l.querySelectorAll("iframe.wp-embedded-content"),r=0;r<s.length;r++)(t=(e=s[r]).getAttribute("data-secret"))||(t=Math.random().toString(36).substring(2,12),e.src+="#?secret="+t,e.setAttribute("data-secret",t)),e.contentWindow.postMessage({message:"ready",secret:t},"*")},!1)))}(window,document); /* ]]> */ </script> https://futureoflife.org/wp-content/uploads/2017/02/capability-caution.jpg1200900人工智能能有多聪明？ Click here to see this page in other languages : English  Russian  “能力警告原则”：在没有达到共识的情况下，我们应该避免对未来人工智能（AI）能力的上限做出强烈地推测。 在未知的时间里，贯穿着社会每个阶段的重大改变即将到来。任何与此转变有关的人都有重大的责任和机会去最好地塑造这个转变。什么会触发这个改变？那就是人工智能。 “23条阿西洛马人工智能原则”提供了一个能帮助人工智能造福尽可能多人的框架。但是，正如人工智能专家托比·沃尔什（Toby Walsh）所说：“当然，这只是一个开始…正在进行中的一个工作。”这些原则代表了一个对话的开始，现在我们需要去跟进广泛讨论每一个原则。你可以在这里阅读关于之前每周里讨论的原则。 能力警告 AI研究人员面临的最大问题之一是：AI到底可以变得有多聪明，多能干呢？ 近年来，AI已在跨越式地发展。由DeepMind创建的人工智能AlphaGo在具有挑战性和复杂性的围棋比赛中，超越了人类的表现。该公司所创建的AI已经可以训快地学会玩雅达利（Atari）电子游戏，并且能比人类玩得更优越。我们也见证了AI在语言翻译、自动驾驶汽车、甚至在创建新药物分子上的突破和进展。 但是，AI还能变得多先进呢？它会继续在有限的任务中表现出色，还是会开发更广阔的学习技巧，使一个AI能在大多数任务中胜过一个人？我们又如何为一个比我们想象中更智能的AI做准备呢？ 有专家认为人类水平AI，或甚至超人类水平AI可以在几十年内开发出来，而有些人却认为没有人能完成这个壮举。“能力警告原则”争论道：在有具体的证据来证明AI有可能实现什么的之前，我们假设AI没有能力上限是最安全的。也就是说，现在什么事情都是有可能的，而我们需要相应地去做出规划。 […]