新闻中心
强大的人工智能禁令可能，政府顾问警告 |
| 发布时间：2023/6/3 |
政府人工智能委员会的一名成员表示，一些非常强大的人工智能系统最终可能不得不被禁止。 Faculty AI的老板Marc Warner表示，AGI需要强大的透明度和审计要求，以及更多的内置安全技术。 接下来的六个月到一年需要对 AGI 做出“明智的决定”。 他的评论是在欧盟和美国联合表示很快需要人工智能的自愿行为准则之后发表的。 人工智能委员会是一个独立的专家委员会，为政府和人工智能领域的领导者提供建议。 Faculty AI表示，它是OpenAI唯一的技术合作伙伴，帮助其客户安全地将ChatGPT及其其他产品实施到他们的系统中。 该公司的工具帮助预测了大流行期间对 NHS 服务的需求——但其政治关系引起了审查。 华纳先生将他的名字加入了人工智能安全中心，警告该技术可能导致人类灭绝。Faculty AI等科技公司的代表于周四在唐宁街与技术部长Chloe Smith讨论了确保安全和负责任的AI所需的风险、机遇和规则。 人工智能描述了计算机执行通常需要人类智能的任务的能力。 Warner先生说，“狭义人工智能”——用于翻译文本或在医学图像中搜索癌症等特定任务的系统——可以像现有技术一样受到监管。 但AGI系统是一项全新的技术，更令人担忧，需要不同的规则。 华纳先生告诉BBC新闻：“这些算法旨在在非常广泛的任务领域——基本上是每项任务——变得与人类一样聪明或更聪明。” 他说，人类在这个星球上处于首要地位主要是因为它的智慧。 华纳先生说：“如果我们创造出与我们一样聪明或比我们更聪明的物体，那么世界上没有人可以提供充分的科学依据来说明为什么它应该是安全的。” “这并不一定意味着它很糟糕——但这确实意味着存在风险，这确实意味着我们应该谨慎对待它。 “至少，需要对可以任意投入这些事情的计算量 [处理能力] 进行严格限制。 “有一个强有力的论点，即在某个时候，我们可能会决定已经足够了，我们只是打算禁止超过一定复杂度或一定计算量的算法。 “但显然，这是一个需要由政府而非科技公司做出的决定”。 有人说，对AGI的担忧分散了人们对现有技术问题的注意力——例如，人工智能招聘或面部识别工具的偏见。 但华纳先生表示，这就像在说：“‘你想让汽车或飞机安全吗？’ 我两个都要。” 其他人则表示，过多的监管可能会降低英国对投资者的吸引力并扼杀创新。 但华纳先生表示，英国可以在鼓励安全方面找到竞争优势。 “我的长期赌注是，实际上，要从技术中获得价值，你需要安全——就像从飞机中获得价值一样，你需要发动机正常工作，”他说。 英国最近发布的人工智能监管白皮书因未能设立专门的监管机构而受到批评。 但首相Rishi Sunak概述了“护栏”的必要性，并表示英国可以发挥“领导作用”。 周三，美国国务卿安东尼布林肯和欧盟专员玛格丽特维斯塔格表示，需要尽快制定自愿规则。 欧盟人工智能法案将成为首批监管人工智能的法案之一，该法案仍在通过立法程序。 维斯塔格女士表示，不同的立法生效需要两到三年的时间——“我们正在谈论一种令人难以置信的技术加速”。 但工业界和其他方面将被邀请在几周内为自愿行为准则草案做出贡献。 在第四届美国-欧盟贸易和技术委员会会议之后，布林肯先生表示，重要的是要建立“对”“广泛的国家……所有志同道合的国家”“开放”的自愿行为准则。 SF6气体回收装置厂家南通科源批发供应：六氟化硫回收净化装置,SF6气体抽真空充气装置,微水分测量仪,SF6检漏仪,是高压输变电设备制造,安装,维修必备的sf6气体回收净化充气装置设备,本厂拥有多项发明专利,制造标准高,销售价格低,欢迎咨询选购来厂考察。 |
产品展示
联系我们
地址：江苏省南通市天生港工业园区天通路89号
联系电话：0513-85600259
联系人：陈俊
手机：13901484052
邮箱：ntkycj@126.com
网址：http://www.ntkyw.com
http://www.xy-w.com
联系电话：0513-85600259
联系人：陈俊
手机：13901484052
邮箱：ntkycj@126.com
网址：http://www.ntkyw.com
http://www.xy-w.com
