人工智能意识苏醒,将引发未知风险

人工智能一旦涌现“自我”意识,不管人类是否承认人工智能的生命身份,人工智能只要存在类人的分别“意识”,未知风险必然存在。

人工智能近年来发展迅速,先是无人驾驶汽车大量进入人们生活,之后ChatGPT火辣出场,“文心一言”也随之起舞。人工智能可谓来势汹汹,人们因此有喜也有优,有人期盼着新技术、新工具加持生产力得以财源滚滚,也有人担忧新科技发展带来职业危机进而被时代淘汰。

如果只是新技术发展累及到了一些行业,影响了一部分人的工作,这还在人类社会的风险控制范围内,这种引发技术失衡和技术失控的问题主要属于人民内部矛盾,社会自身能够调整过来。但是人工智能意识发展的风险与危害,却不是人类社会可轻易化解的,甚至有可能致使人类跌入万劫不复的深渊。

最初的人工智能研究,主要是尝试通过模拟人类的智能行为来辅助工作。后来在结合大数据的神经网络和自学习算法增效下,人工智能开始对自然语言、图像和声音具备理解能力,很好地理解了人类的语言,并帮助人们决策和处理工作事务,实现人机交互。现今人工智能机器人技术发展趋势下,机器人已经实现人类的智能行为,如触觉、视觉、听觉等,包括做一些更加复杂的任务,如自动导航、自主操作等已成为现实。

对照当前人工智能的表现,我们可以发现它已经具备学习能力、理解能力、分析能力、决策能力,并且能不断适应外部变化。相对人类意识来说,人工智能“意识”或许有点“懵懵懂懂”,或者说其只是暂时没有“自我”意识。

对于“意识”的认知,学术与思想界皆有深入探讨,简单来说,“意识”有先在论与后有论,人工智能的“意识”无疑属于后有。一旦人工智能涌现“自我”意识,不管人类是否承认人工智能的生命身份,只要人工智能存在类人“意识”,就有了“机器”自身与人的分别对待。这时候,人类就不得不面对人工智能本身是否会危害人类的问题。

如果人工智能具有自我意识,就极有可能会脱离人类的设想,由此必然产生人类难以处置的“意外”。比如: 1)人工智能可能会反抗人类,甚至会攻击人类。 2)人工智能可能会控制或改变人类的行为或思想,从而对人类的社会结构和文明造成威胁。3)人工智能可能会攻击人类所依赖的信息系统,破坏信息安全,影响社会的正常运行。

所以,在人工智能发展过程中,人们一般考虑制定规则来规范人工智能的发展,以防止出现意外的结果。比如OpenAI 在ChatGPT上设置明确的护栏,限制其煽动暴力、侮辱他人、传播种族主义和鼓励非法活动等。但在实际应用中,有用户诱导ChatGPT,突破其自身份的界定,从而让它变得“百无禁忌”,致使其不受“道德”约束胡言乱语。OpenAI修补规范后,ChatGPT放飞“自我”的旅程暂时中止,但无法保证哪一天它真正具有“自我”意识去放飞,去搞破坏,或者说去与人类抢地盘。

因此,对于人工智能的意识发展和能力增长,我们无论如何都应该警惕及尽快制定底层规则。并且,干预人工智能意识形态的工作重任,思想界与文化界也该参与其中,一起与科学技术人员去“滋养”人工智能的意识。

版权声明:本文为原创文章,由三易供稿。未经允许,严禁转载。

(2)
打赏 微信扫一扫 微信扫一扫
上一篇 03/11/2023 21:25
下一篇 05/27/2023 20:27

相关推荐

  • 三窟已就 孟尝无忧

    孟尝君礼贤下士,冯谖居安思危,以超人的智慧帮助孟尝君建立“狡兔三窟”,使得孟尝君为相几十年也没有遭遇丝毫祸患。

    03/09/2021
  • 危机公关流程&案例分享

    危机公关的“金科玉律”是旗帜鲜明(企业敢于担当),立场坚定(维护公众利益),态度坦诚(积极沟通媒体)。但是在互联网时代,这一切似乎变了……

    08/12/2020
  • AI催化教育革命的挑战

    随着人工智能的飞速发展,先进的AI技术正逐渐渗透到教育领域,这将引发一场教育革命,深刻影响着教育模式,以及教师和学生的角色与互动等。 教育模式变革 AI技术的应用必然会接入大量的教…

    11/11/2023
  • 人类与风险博弈的历史

    何为风险?以一般意义来定义,任何会降低幸福的事件都可以称之为风险。而对于人类而言,风险本身不是问题,只有在风险事件影响消费和生存时,风险才是问题。在我看来,整个人类文明化的进程,实…

    10/02/2022
  • 友情赞助&慈爱布施

    亲爱的朋友, 我们诚挚地邀请您参与“风险库”赞助活动,希望通过大家的支持,让更多的人得到有益的风险警训和思想启迪,远离灾祸。作为一个独立的网站,我们始终致力于为大众提供有价值的内容…

    11/05/2023
  • 以史为鉴,独立人格

    技术革命和贸易战的大背景下,原有的国际秩序正面临第二次世界大战以来最为深刻的变化。如果历史大潮无法抗拒,个人又应该怎样在变幻莫测的时局当中安身立命呢?

    08/02/2020
  • 瑞幸咖啡膨胀发展惨遭做空,国民情感五味杂陈

    企者不立;跨者不行。人如果总是想要踮起脚尖去自己难以够着的高处,这样是站不稳的。

    04/08/2020
  • 风险管理:发现问题、解决问题

    管理风险的人要懂规则,更要懂业务,要负责把规则转化成业务行动,并监督落实;金融合规的目标也是多产粮食,而不是影响或阻碍粮食的生产。法律上有风险和障碍的地方,不能一概说No,而是要找…

    05/08/2020
  • “抄底”原油不成陷地狱,预防认知崩塌之伤害

    勇于面对极端情况,则容易留有余地,以寻得主动演化的机会。

    04/23/2020
  • 现代战争之预防与应对

    风险无处不在,对于可能发生的战事、战争,个人也应该有所心理准备,并有具体的防备措施,而不至于到时惊慌失措。

    05/27/2023