炼数成金 门户 商业智能 人工智能 查看内容

OpenAI宣布全面投入通用AI,四大原则确保人类免于毁灭

2018-4-12 10:23| 发布者: 炼数成金_小数| 查看: 20252| 评论: 0|来自: 新智元

摘要: 马斯克在创立OpenAI时,给OpenAI的目标是确定人工智能技术如何更好地为人类服务。近日,OpenAI发布了一份新的公司章程,根据章程,OpenAI未来的使命是开发“高度自主的系统,在大多数具有经济价值的工作上超越人类” ...

工具 安全 人工智能 商业智能 ETL

马斯克在创立OpenAI时,给OpenAI的目标是确定人工智能技术如何更好地为人类服务。近日,OpenAI发布了一份新的公司章程,根据章程,OpenAI未来的使命是开发“高度自主的系统,在大多数具有经济价值的工作上超越人类”。它想让机器比人类更聪明。

这一使命即通用人工智能(AGI),取决于你用来做什么,它可以是圣杯,也可以是潘多拉的魔盒。

OpenAI宣布all-in AGI。尽管马斯克最近退出了OpenAI董事会(官方称此举是为了避免 OpenAI 将来与特斯拉可能发生的冲突),但OpenAI仍有它的野心。

一些专家,如谷歌的Ray Kurzweil,认为我们距离奇点(机器变得比人类更聪明的时间点)只有数十年。也有人认为这永远不会发生。在有关AGI的讨论中,大多数人要么仍在试图理清语义、学术类型,要么更担心资金问题,而不是担心对人类的生存威胁。

幸亏OpenAI是一个非营利性组织。它有超过10亿美元的资金和AI领域最聪明的人才(以及大公司)的支持,它能够专注于技术而不必担心去取悦股东以免失去资助。为了达到这一目的,OpenAI致力于小心谨慎地开发AGI,并避免AI军备竞赛,这可能导致研究人员失去重点。

OpenAI新的章程写道:
我们将尝试直接构建安全、有益的AGI,但如果我们的工作帮助其他人达到这一目的,我们也认为我们完成了这一使命。

在这份文件中,OpenAI甚至表示,如果另一家公司似乎接近了AGI的边缘,它将退出并终止其研究。

多数人认为AGI是离现实很远的科幻小说里的事情,甚至AI信徒们也认为担心AGI还为时过早。但在某种程度上,我们需要一些强有力的指导方针来帮助开发人员避免意外的陷阱(比如摧毁人类)。等到机器人出现问题,再提出常识性的政策就太迟了。

OpenAI联合创始人Ilya Sutskever说:“OpenAI在创立之初就已为建立一个强大的技术实验室指定了完善的规范。但是,如何建立一个旨在使这些技术的长期影响进展顺利的组织,这并没有真正的先例。在过去两年中,我们从头开始建立了能力、安全和政策团队,每个团队都对这些规范有所贡献。我们认为这些技术影响着每个人,因此我们与其他机构合作,确保这些原则不仅对我们,而且对社区的其他人都有好处。”

OpenAI目前没有提出AGI的时间表,但它已经开始了“下一阶段的OpenAI”,包括增加对人员和设备的投资,以期“在人工智能方面取得重大突破”。

OpenAI章程全文


OpenAI的使命是确保通用人工智能( artificial general intelligence ,AGI)——我们指的是高度自主的系统,这种系统在大多数具有经济价值的工作上能够超越人类——将使全人类受益。我们将尝试直接构建安全而有益的AGI,但如果我们的工作帮助其他人实现了这一成果,我们也认为我们的使命已经完成。为此,我们承诺遵守以下原则:

广泛受益原则
我们承诺利用我们通过部署AGI获得的任何影响,确保它被用于所有人的利益,并避免AI或AGI的使用伤害人性或令能力过度集中。
我们主要的受托责任是人性。我们预计需要集结大量资源来完成我们的使命,但我们将始终不懈地努力,尽量减少员工和利益相关方之间的利益冲突,因为这可能会损害广泛的利益。

长期安全原则
我们承诺进行必要的研究,以确保AGI安全,并推动AI社区广泛采用这些研究。
我们担心后期AGI的发展会成为一场军备竞赛,缺乏足够时间实施安全预防。因此,如果一个价值观一致的、关注安全的项目在我们之前接近了AGI,我们承诺放弃竞争并协助这个项目。我们会根据具体情况制定具体的协议,但一个典型的可能性是“未来两年内出现比以往任何时候都更接近成功的机会”。

技术领导力
为了使AGI的影响对社会有效,OpenAI必须要站在AI技术的前沿——单靠政策和安全宣传是不够的。
我们相信AI在AGI之前会产生广泛的社会影响,我们在与我们的使命和专业知识直接相关的领域中发挥领导作用。

合作导向
我们将积极配合其他研究机构和政策机构;我们力求创建一个全球性的社区,共同应对AGI的全球挑战。
我们致力于提供帮助社会通向AGI的公共产品。今天,这包括公开发表我们的大部分AI研究,但我们预计,由于安全性问题,未来公开发表的研究将会减少,同时增加分享安全、政策和标准研究。

欢迎加入本站公开兴趣群
商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法,实际应用案例分享与讨论,分析工具,ETL工具,数据仓库,数据挖掘工具,报表系统等全方位知识
QQ群:81035754

鲜花

握手

雷人

路过

鸡蛋

相关阅读

最新评论

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

 

GMT+8, 2018-12-15 14:17 , Processed in 0.150930 second(s), 24 queries .