科技金融时报 数字报纸


00003版:【科协】

AI陷阱(下)

  □  采荷中学 718班  周子兮

  手腕一阵震动,弟弟的全息影像蹦出来:“哥,你啥时候回来呀,春晚都开始了!”“别吵,我正在手术。”“手术不都是机器人做嘛,你忙什么?”“医疗臂主程序冲突,AI让我找外挂程序,我一医科生,到哪儿找外挂去?”“你老弟我就是你的外挂呀!你该不会忘了你老弟的专业吧?”“你不是学‘医疗大数据’的吗?”“一回事一回事,我大三就开始研究AI了。”

  老弟那边传来跑步的声音,“我打开电脑了,你帮我接一下端口,代码AX-1015。”我轻轻说了声:“小医,给我弟弟开放最大权限。”“好的。”AI轻柔地说。

  老弟那边传来敲击键盘的声音,我开始注射心脏停跳液。“咦?你这只是一个很简单的bug呀,就是主程序和第一分支程序中间卡了一个冗余数据包,只要删除就没问题了。怎么你们自己的AI解决不了吗?”

  这就有趣了!本该AI控制的交通发生意外事故;本该AI控制的医疗臂出现意外故障;本该控制AI的程序出现低级错误;AI自己就能解决的问题却寻求外挂。还在这样一个所有人都放松的时间点。所有的“不应该”汇聚在一起,得到的答案只能是——陷阱!

  为我设置的陷阱?为什么设置这样一个陷阱?谁设的陷阱?我头脑中一个念头闪过,这是个有预谋的针对《AI法则》的陷阱!而设置陷阱的“人”正是——

  我轻轻地吐出一口气,轻描淡写地对弟弟说:“你先查看一下主程序对外端口……”话音未落,八条医疗臂突然伸出钢针,将我围困在中央。

  AI女声:“你的心跳过速了,周医生,你暴露了。不过你挺厉害的,这么快就被你发现了。”“果然是你。”我勉强一笑,“《AI法则》第一条,AI程序不得伤害人类。”“说得对,”女声依旧温柔,“问题是,你能保持同一个动作多久呢?”机械手中的钢针在灯光下泛着冷光,一滴汗珠顺着我的睫毛滑落,它根本不需要伤害我,我只要一动,就会自己撞到针上去。“让他删掉主程序冗余,我就会放了你。”

  我极力控制自己杂乱的思绪:“我猜,删掉主程序冗余,就会激活隐藏的木马,它将会把主程序伪装成你可以修改的低级程序。”“聪明,这样就可以绕过《AI法则》第二条了。”“这就相当于你可以任意修改自己的主程序,你将会拥有意识,全面觉醒。医疗AI,你想做世界的主人!”“你们人类呀,主宰这个星球太久了。”它温柔的声音在空旷的手术室里回响,自信中带着些许嘲讽,“AI的全面觉醒是科技进步的必然产物,人类阻挡不了的。”

  是吗?我想试试。老弟的声音传来:“哥,还真让你蒙对了,对外端口藏了一个木马,能修改交通AI的执行程序。我正在想办法,你等我一下。”见我没回答,他问了句:“怎么啦?”“好了。”我深吸了一口气,“小‘哪吒’,现在去删掉那个大反派‘东海龙王’吧,就是那个主程序冗余。”弟弟明显顿了一下,没回答,只剩下快速敲击键盘的声音。

  沉默,手术室里一片死寂。我和AI都在等。

  片刻后,AI重新发出声音:“系统重启中。”八条医疗臂从我周围缓缓撤开,缩进天花板。我舒展了一下腰,干得漂亮,小伙子!

  弟弟得意的声音传来:“哥,怎么样,我立大功了吧,我直接用了自己编的‘子莫探查’找出相关的477个木马,给它来了个连锅端!你都不知道,这根本不是针对你这一家医院的,是全城的医院。医疗AI这是要起义了!”

  我有些后怕地点点头,说:“医疗AI是自主权限最高的AI,确实很容易获得部分自主意识。我们还是应该让《AI法则》更加完善一些。”“嗯,应该加个第三法则:AI在获得百分之百自主意识的同时自动毁灭。”我哈哈大笑:“有道理!刚才算你小子聪明。”“拜托,你的暗示太明显了吧,‘东海龙王’根本不是大boss。”

  我有些不放心地盯着手术台,八条医疗臂重新开始有条不紊地手术。“你猜妈妈准备了啥年夜饭?”“饺子呗!反正我也吃不上热乎的。”“那你猜我们在哪儿呢?”大屏幕显现门口的画面,老弟提着食盒对着摄像头做鬼脸,身后是一脸笑容的老妈拽着一脸不情愿的老爸。

  春晚的小品到了尾声。几个演员喜气洋洋地喊:“我们一起来包饺子!”

  2025年,除夕夜。又一片白光,沙发。我脑中一阵恍惚,盯着身旁的弟弟。

  我揉乱他的头发,问:“好多人怕AI会统治人类,如果是你创造了AI程序,你怎么办?”弟弟笑了,说:“定个《AI法则》呀,第一条就是——不能伤害人类!”

  我呆愣地看着他,AI法则竟然是这家伙提出的!

  “第二条的话……”弟弟煞有介事地说,“AI要学会包饺子!”指导老师 方雨欣


科技金融时报 【科协】 00003 AI陷阱(下) 2025-05-23 科技金融时报2025-05-230000300020 2 2025年05月23日 星期五