1.0Future of Life Institutehttps://futureoflife.orgrich600338<blockquote class="wp-embedded-content" data-secret="xSLg8Y0yTY"><a href="https://futureoflife.org/translation/research-for-beneficial-artificial-intelligence-chinese/">Research for Beneficial Artificial Intelligence Chinese</a></blockquote><iframe sandbox="allow-scripts" security="restricted" src="https://futureoflife.org/translation/research-for-beneficial-artificial-intelligence-chinese/embed/#?secret=xSLg8Y0yTY" width="600" height="338" title="“Research for Beneficial Artificial Intelligence Chinese” — Future of Life Institute" data-secret="xSLg8Y0yTY" frameborder="0" marginwidth="0" marginheight="0" scrolling="no" class="wp-embedded-content"></iframe><script type="text/javascript"> /* <![CDATA[ */ /*! This file is auto-generated */ !function(d,l){"use strict";l.querySelector&&d.addEventListener&&"undefined"!=typeof URL&&(d.wp=d.wp||{},d.wp.receiveEmbedMessage||(d.wp.receiveEmbedMessage=function(e){var t=e.data;if((t||t.secret||t.message||t.value)&&!/[^a-zA-Z0-9]/.test(t.secret)){for(var s,r,n,a=l.querySelectorAll('iframe[data-secret="'+t.secret+'"]'),o=l.querySelectorAll('blockquote[data-secret="'+t.secret+'"]'),c=new RegExp("^https?:$","i"),i=0;i<o.length;i++)o[i].style.display="none";for(i=0;i<a.length;i++)s=a[i],e.source===s.contentWindow&&(s.removeAttribute("style"),"height"===t.message?(1e3<(r=parseInt(t.value,10))?r=1e3:~~r<200&&(r=200),s.height=r):"link"===t.message&&(r=new URL(s.getAttribute("src")),n=new URL(t.value),c.test(n.protocol))&&n.host===r.host&&l.activeElement===s&&(d.top.location.href=t.value))}},d.addEventListener("message",d.wp.receiveEmbedMessage,!1),l.addEventListener("DOMContentLoaded",function(){for(var e,t,s=l.querySelectorAll("iframe.wp-embedded-content"),r=0;r<s.length;r++)(t=(e=s[r]).getAttribute("data-secret"))||(t=Math.random().toString(36).substring(2,12),e.src+="#?secret="+t,e.setAttribute("data-secret",t)),e.contentWindow.postMessage({message:"ready",secret:t},"*")},!1)))}(window,document); /* ]]> */ </script> https://futureoflife.org/wp-content/uploads/2017/12/reserach-goal-principle.jpg1100825研究有益的人工智能 Click here to see this page in other languages: English  研究目标：人工智能研究的目标应该是建立符合共同利益的人工智能，而不是无秩序的智能。 阿西洛马原则的第一条就是关于研究的，这并非巧合。 乍看之下，研究目标这一原则似乎不像其他的一些原则那样引人注目或是激动人心，因为那些原则大多直接阐述了我们将如何与人工智能互动以及超级人工智能于我们可能的影响。但恰恰是这第一条原则生发出了余下的各条原则。 简而言之，没有人工智能研究，没有研究人员的具体目标，人工智能就无法发展。然而，如果只参与研究并致力于实现通用人工智能的目标，而不考虑该研究所带来的可能的长远影响，那么这样的研究将会对社会造成危害。 侏罗纪公园有这样一个场景，杰夫·高布伦（Jeff Goldblum）扮演的角色感叹，创造恐龙的科学家“太过专注于他们是否能够创造恐龙，而从未停下来思考过他们是否应当这样做”。一直到前不久，人工智能研究者们都还仅是在琢磨着他们能够完成什么，而未从长远角度来考量，他们有充分的理由：科学家们不过是试图让他们的人工智能项目运转而已，他们所取得的成果实在是太过有限以至于无法构成任何威胁。 但在过去的几年里，科学家们已经在人工智能领域取得了很大进展。人们已经感觉到人工智能对社会的影响，并且，正如我们所看到的，一些偏见和歧视问题已然开始出现，这一切并不全是美好。 态度转变 不幸的是，在人工智能研究领域，仍然存在这样一种文化，即人们盲目领受研发者无需对产品的使用负责这一概念。斯图尔特·拉塞尔（Stuart Russell）将这种态度与土木工程师的态度进行了比较，土木工程师永远不会被允许说这样的话，“我不过是设计桥梁罢了，自会有人操心它是否会坍塌。” […]