Navigation

项目代号:卡佩尔3.0.你的思想被控制了吗?

swissinfo.ch / Michele Andina & Helen James

令年轻的研究员维蕾娜兴奋不已的是,能通过在社交媒体上打击仇恨言论并确保瑞士选举的公平性,她的行动捍卫了更高的国家利益。但当她主导的新型人工智能(AI)项目遭到抨击时,她开始认同宿敌的观点:已经没有安全的地方了。

此内容发布于 2022年06月20日 - 09:00
Sabine Sur (文), Michele Andina及Helen James (图)

閱讀本文繁體字版本請 點擊此處

音乐响起:雄厚的鼓声,轻快的笛声。镜头扫过一幅画,画中一群人正在用大木桶吃饭。他们的衣着颜色与苏黎世和楚格的代表色一致-红色、蓝色和白色。屏幕上出现了画作的标题“卡佩尔的牛奶汤”,作者是塞缪尔·阿尔布雷希特·安克尔(Samuel Albrecht Anker),然后一个男声说:“1529年,天主教徒和新教徒在卡佩尔相遇并战斗。但士兵们决定改为共同进餐......求同存异是我们祖国的传统,是我们的民族特性”。

瑞士资讯swissinfo.ch的全新科幻系列作品:明日之正反乌托邦

乌托邦还是反乌托邦?梦想还是现实?当代技术革命向我们提出了有关人类未来的基本问题。新技术到底是敌是友?它们将如何改变我们在社会中的角色?我们是注定要进化成为超人,还是被机器的力量所超越?

《明日之正反乌托邦》是瑞士资讯原创的科幻系列短篇小说,尝试以创新和富有远见的方式回答相关问题。多亏了众多小说作家们的创造力,以及在故事所述领域工作的瑞士研究人员和专业人士的精诚合作,我们才有机会尝试去想象和理解技术将如何塑造我们的生活。每个科幻故事都将附有一篇与瑞士顶尖科学家合作撰写的事实性文章,让您了解一些前沿研究领域正在发生的事情,激发您的想象力

End of insertion

一旦看过这个视频,你的思想就被控制了。

在就养老金改革投出电子选票之前,有几位选民称在上网时看到了这个视频。此后,他们都倾向于对养老金制度改革投 “反对票”,坚称他们重视个人自由和责任,不希望更多的政府干预。

一位不具名的可靠消息人士告诉我,与政府关系密切的知名机构有意选择这些人作为目标。这个项目的代号为“卡佩尔3.0”。

你被迫盲目接受政府提出的任何主张。

人工智能决定谁能看到什么。

即使人们足不出户,他们的表决意志也会受到侵蚀。已经没有安全的地方了。

下周日,当投票结束时,我们将看到到底是谁主导了选举-是选民,还是人工智能。

落款署名:自由思想者

“维蕾娜,你怎么看?”

维蕾娜犹豫片刻,她的目光从电脑转向她的母亲。母亲正抿着嘴唇,眼睛明亮,等待着她的回应。

这一次,这位“自由思想者”开始意识到有些不对劲。

她的母亲乌尔西已经成为这位匿名博主的粉丝,并坚持给女儿看新的帖子,从关于山地掩体的“内幕消息”到对大型制药公司的抨击。维蕾娜并没有因为这些荒谬的推论而咬牙切齿,但她确实对俗气的网页设计而感到无语。自从维蕾娜在苏黎世的顶尖大学取得博士后岗位后,她母亲的行为就发生了变化,仿佛乌尔西试图向女儿证明自己更聪明。

“这不过是一段视频,”维蕾娜想起了她的保密协议,最后说道,“这不太可能是精神控制。人们仍然可以自由选择。它更像是......”她犹豫了一下,然后想起了那个常用词-“引导”。

乌尔西正在推特上翻看对于该帖的评论,神色很惊恐。

“这完全就是操纵!”

用户frechundfrei说,鉴于人类在做决定方面有多么无能,我建议让AI领主来决定结果。这个用户在11秒收到98次吐槽和120次点赞。

“我想其他国家可能会这样做,但瑞士不会。他们不敢,他们会尊重我们,”乌尔西说。

“‘他们’是谁?”

“就是做这件事的人。”

***

维蕾娜还记得他们首次上线人工智能系统时的情景。她和她的团队建立了一个深度神经网络,并向其灌输关于瑞士的内容。他们的目标是促进民主。

他们指示这个系统找到那些具有极端政治倾向和暴力倾向的人,使他们变得中庸一些:即寻求共识、保障安全。

深度神经网络在几秒钟内给出了名字。该团队制定好策略,“卡佩尔 3.0”系统为每个策略提供了潜在的结果。最终,他们对人工智能系统进行编程,并通过现金奖励的形式招募选民自愿参与这项“社会科学调查”,以期让该系统发挥其“魔力”。如果成功的话,他们将向联邦委员会提交一份正式报告。这是她做过的最令人兴奋的工作。

“我猜他们的意图是好的,”她最终回答说,心里想着是谁走漏了风声。

“你怎么知道?你的祖母曾为我们争取到了投票权。而现在呢?我们却被洗脑了。甚至连那点自由也被剥夺了。”

“提醒选民注意瑞士的历史情况并没有什么坏处。我小时候你经常给我讲这方面的故事。”

通常情况下,这些唤起回忆的话会让乌尔西平静下来,但这次却不起作用。

“准确地说,”她嘶吼道,“你希望大人被当作孩子对待吗?”

“这只是一部短片,”维蕾娜总结道,但她的话听起来很空洞无力。

第二周星期天,维蕾娜带着母亲最喜欢的花来了。

乌尔西查看了初步投票结果。与先前的预测相反,似乎投“赞成票”的人更多。维蕾娜忍不住笑了。

“我们成功了!看到了吗?这不是操纵,而是路线纠偏。这种做法很有效。”

她意识到自己说漏嘴了,但为时已晚。

乌尔西片刻之后才明白所听到的内容。“你是他们中的一员!”她顿时感到说不上话来,”这是你的大型秘密项目吗?”

她站起来,声音也变得越发洪亮。“你自己大多数时候都不投票,但却强迫其他人做你想做的事,这么做合适吗?”

“不是的,请听我解释”

“给我出去。”

当维蕾娜关上门的时候,乌尔西在推特上愤怒地打字。我要求对#卡佩尔3.0进行公投。谁支持我?

***

维蕾娜迷迷糊糊地走回火车站,准备约上朋友,找地方喝上一杯排解排解。突然,她的电话响了。电话那头是她的教授,听起来有些反常,言语比较激动。

“我们被人肉了,整个团队都被人肉了。”他低声说,“有人把我们的家庭地址放在一个论坛上,评论越来越激烈。”

一时间双方不知说何是好。

“也许今晚不要回家?找别的地方住?我们已经通知了警方。”

她咕哝了几句,向他保证她自己会小心,但她的脑海里一片空白。真的到这种地步了吗?

***

维蕾娜的一位同事最终退出了项目,但她住进了一间新的公寓,并更加努力地工作。她的教授在媒体上为他们的工作辩护,再次强调有关的选民只是一小部分志愿者。

该团队帮助即将举行的人工智能和民主公投起草反提案。在“卡佩尔3.0”项目暂停的同时,他们利用神经网络帮助制止学校中的霸凌行为。

相互沉默数周后,乌尔西打电话给她的女儿,希望能够求同存异。

***

一年后,维蕾娜和她的母亲再次见面。她们相互拥抱,然后分别进入了不同的投票站。

在全国范围内部署“卡佩尔3.0”系统

是/否

swissinfo.ch / Michele Andina & Helen James

*          *          *

萨宾·苏尔(Sabine Sur)是一名翻译和作家,热衷于研究科技对人类思维的影响。她是一个乐观主义者,天性中永远充满了好奇。她和家人住在苏黎世州。她还以Luz Maupin的笔名写作。

您刚刚读到的故事有多真实?研究人员和专家解释了如何在瑞士利用算法和大数据来促进或阻碍民主。

(译自英文:中文编辑部)

符合JTI标准

符合JTI标准

相关内容: 瑞士资讯SWI swissinfo.ch得到新闻信任计划的认证

这篇文章下方的评论区已关闭。您可以在这里找到读者与我们记者团队正在讨论交流的话题。

请加入我们!如果您想就本文涉及的话题展开新的讨论,或者想向我们反映您发现的事实错误,请发邮件给我们:chinese@swissinfo.ch

分享此故事

更换密码

确定要删除个人资料?