1.0Future of Life Institutehttps://futureoflife.orgrich600338<blockquote class="wp-embedded-content" data-secret="QwYCOW0eRW"><a href="https://futureoflife.org/translation/align-artificial-intelligence-human-values-chinese/">How Do We Align Artificial Intelligence with Human Values? Chinese</a></blockquote><iframe sandbox="allow-scripts" security="restricted" src="https://futureoflife.org/translation/align-artificial-intelligence-human-values-chinese/embed/#?secret=QwYCOW0eRW" width="600" height="338" title="“How Do We Align Artificial Intelligence with Human Values? Chinese” — Future of Life Institute" data-secret="QwYCOW0eRW" frameborder="0" marginwidth="0" marginheight="0" scrolling="no" class="wp-embedded-content"></iframe><script type="text/javascript"> /* <![CDATA[ */ /*! This file is auto-generated */ !function(d,l){"use strict";l.querySelector&&d.addEventListener&&"undefined"!=typeof URL&&(d.wp=d.wp||{},d.wp.receiveEmbedMessage||(d.wp.receiveEmbedMessage=function(e){var t=e.data;if((t||t.secret||t.message||t.value)&&!/[^a-zA-Z0-9]/.test(t.secret)){for(var s,r,n,a=l.querySelectorAll('iframe[data-secret="'+t.secret+'"]'),o=l.querySelectorAll('blockquote[data-secret="'+t.secret+'"]'),c=new RegExp("^https?:$","i"),i=0;i<o.length;i++)o[i].style.display="none";for(i=0;i<a.length;i++)s=a[i],e.source===s.contentWindow&&(s.removeAttribute("style"),"height"===t.message?(1e3<(r=parseInt(t.value,10))?r=1e3:~~r<200&&(r=200),s.height=r):"link"===t.message&&(r=new URL(s.getAttribute("src")),n=new URL(t.value),c.test(n.protocol))&&n.host===r.host&&l.activeElement===s&&(d.top.location.href=t.value))}},d.addEventListener("message",d.wp.receiveEmbedMessage,!1),l.addEventListener("DOMContentLoaded",function(){for(var e,t,s=l.querySelectorAll("iframe.wp-embedded-content"),r=0;r<s.length;r++)(t=(e=s[r]).getAttribute("data-secret"))||(t=Math.random().toString(36).substring(2,12),e.src+="#?secret="+t,e.setAttribute("data-secret",t)),e.contentWindow.postMessage({message:"ready",secret:t},"*")},!1)))}(window,document); /* ]]> */ </script> https://futureoflife.org/wp-content/uploads/2017/02/value_alignment_hands.jpg1461829我们如何统一人工智能与人类价值观？ Click here to see this page in other languages: English  German Japanese    Russian  在未知的时间尺度里，社会中的各个环节即将面对重大的改变。任何与此转变有关的人都有着巨大的责任和机会去塑造它。什么将会触发这个变化？人工智能。 最近，一些人工智能和相关领域的顶尖人才聚集在一起讨论如何确保在转型过程中的人工智能可以保持有利。这番讨论产生了阿西洛马人工智能23条原则。这23条原则的意图在于提供一个使人工智能让尽可能多的人受益的框架。但是，正如人工智能专家托夫·沃尔什(Toby Walsh)所说的：“当然，这只是个开始……工作正在进行中。” 这些原则代表了对话的开始。既然现在对话正在进行中，我们需要跟进每项原则进行广泛的讨论。这些原则对不同的人意味着不同的东西，所以为了尽可能多地造福社会，我们需要单独思考每项原则。 我采访了许多签署了原则文件的人工智能研究员，以了解他们签署这份文件的原因及对未来将面临的问题的看法。 价值观一致性 今天，我们从价值观一致性开始说起。 价值观一致性：高度自主的人工智能系统的设定应该以确保其目标和行为在整个运行过程中与人类价值观相一致。 曾经帮助开创价值观一致性的斯图尔特·拉塞尔(Stuart Russell)喜欢将这与米达斯王的故事进行比较。当米达斯王要求他所触摸的一切都变成黄金时，他真的只是想要变得富有。他其实并不想要他的食物和亲人变成黄金。在人工智能方面我们面临着类似的情况：我们该如何确保人工智能会做我们真正想要的，而不会受设计师的误导去伤害人类？ […]