1.0Future of Life Institutehttps://futureoflife.orgrich600338<blockquote class="wp-embedded-content" data-secret="Wzjdz9TyXE"><a href="https://futureoflife.org/translation/safe-artificial-intelligence-may-start-with-collaboration-chinese/">Safe Artificial Intelligence May Start with Collaboration Chinese</a></blockquote><iframe sandbox="allow-scripts" security="restricted" src="https://futureoflife.org/translation/safe-artificial-intelligence-may-start-with-collaboration-chinese/embed/#?secret=Wzjdz9TyXE" width="600" height="338" title="“Safe Artificial Intelligence May Start with Collaboration Chinese” — Future of Life Institute" data-secret="Wzjdz9TyXE" frameborder="0" marginwidth="0" marginheight="0" scrolling="no" class="wp-embedded-content"></iframe><script type="text/javascript"> /* <![CDATA[ */ /*! This file is auto-generated */ !function(d,l){"use strict";l.querySelector&&d.addEventListener&&"undefined"!=typeof URL&&(d.wp=d.wp||{},d.wp.receiveEmbedMessage||(d.wp.receiveEmbedMessage=function(e){var t=e.data;if((t||t.secret||t.message||t.value)&&!/[^a-zA-Z0-9]/.test(t.secret)){for(var s,r,n,a=l.querySelectorAll('iframe[data-secret="'+t.secret+'"]'),o=l.querySelectorAll('blockquote[data-secret="'+t.secret+'"]'),c=new RegExp("^https?:$","i"),i=0;i<o.length;i++)o[i].style.display="none";for(i=0;i<a.length;i++)s=a[i],e.source===s.contentWindow&&(s.removeAttribute("style"),"height"===t.message?(1e3<(r=parseInt(t.value,10))?r=1e3:~~r<200&&(r=200),s.height=r):"link"===t.message&&(r=new URL(s.getAttribute("src")),n=new URL(t.value),c.test(n.protocol))&&n.host===r.host&&l.activeElement===s&&(d.top.location.href=t.value))}},d.addEventListener("message",d.wp.receiveEmbedMessage,!1),l.addEventListener("DOMContentLoaded",function(){for(var e,t,s=l.querySelectorAll("iframe.wp-embedded-content"),r=0;r<s.length;r++)(t=(e=s[r]).getAttribute("data-secret"))||(t=Math.random().toString(36).substring(2,12),e.src+="#?secret="+t,e.setAttribute("data-secret",t)),e.contentWindow.postMessage({message:"ready",secret:t},"*")},!1)))}(window,document); /* ]]> */ </script> https://futureoflife.org/wp-content/uploads/2017/07/Research-Culture-Principle-2.jpg1100524安全的人工智能可始于协作 Click here to see this page in other languages: English  研究文化原则：人工智能研究人员和开发人员应该培养合作、信任和透明度的文化。 竞争和保密只是业务的一部分。即便在学术界，研究人员也常保留自己的想法和初步发现，直到经费到账或文章发表已尘埃落定。但有时，相互竞争的公司和研究实验室亦会一起工作。组织机构都知道合作的最佳利益是为了解决问题并应对挑战，否则将导致重复的成本和时间投入。 这样的友好行为有助于团队更加有效地应对规章制度、制定标准、以及分享有关安全的最佳实践。尽管这些公司或研究实验室－无论是人工智能还是任何其他领域－会在某些问题上有所合作，但他们各自的目标仍然是第一个开发出新产品或得到新的发现。 那么这些组织机构，尤其是对于人工智能这样的新兴技术，该如何在共同推动安全研究和保护个体新想法之间划分界线？由于研究文化原则并不区分于人工智能安全上的协作和人工智能发展上的协作，那么就可以有更广泛地解释，正如同以下我与人工智能研究人员和伦理学家针对这一原则的讨论 。 必要的第一步 我所访问对象的一个共同的认识是，这个原则是发展安全和有益的人工智能，重要的第一步。 “我认为这是阿西洛马（Asilomar）原则的实践精神，”哈佛教授约书亚·格林（Joshua Greene）说道，“他们尚没有法律约束力。在这个早期阶段，更多是为了创造一个共同的理解：有益的人工智能需要积极的承诺，使它受益于每一个人，然而这并不是默认的路径。为了确保这种力量在成熟时得到很好的使用，我们需要建立起致力于有益结果的一种文化、一套规范、一种期望，一些机构 。这正是其意义所在 […]