Navigation

項目代號:卡佩爾3.0.你的思想被控制了嗎?

swissinfo.ch / Michele Andina & Helen James

令年輕的研究員維蕾娜興奮不已的是,能藉由在社交媒體上打擊仇恨言論並確保瑞士選舉的公平性,她的行動捍衛了更高的國家利益。但當她主導的新型人工智慧(AI)項目遭到抨擊時,她開始認同宿敵的觀點:已經沒有安全的地方了。

此内容发布于 2022年06月20日 - 09:00
Sabine Sur (文), Michele Andina及Helen James (图)

阅读本文简体字版本请 点击这里

音樂響起:雄厚的鼓聲,輕快的笛聲。鏡頭掃過一幅畫,畫中一群人正在用大木桶吃飯。他們的衣著顏色與蘇黎世和楚格的代表色一致-紅色、藍色和白色。屏幕上出現了畫作的標題“卡佩爾的牛奶湯”,畫家是塞繆爾·阿爾布雷希特·安克爾(Samuel Albrecht Anker),然後一個男聲說:“1529年,天主教徒和新教徒在卡佩爾相遇並戰鬥。但士兵們決定改為共同進餐......求同存異是我們祖國的傳統,是我們的民族特性”。

瑞士資訊swissinfo.ch的全新科幻系列作品:明日之正反烏托邦

烏托邦還是反烏托邦?夢想還是現實?當代技術革命向我們提出了有關人類未來的基本問題。新技術到底是敵是友?它們將如何改變我們在社會中的角色?我們是注定要進化成為超人,還是被機器的力量所超越?

《明日之正反烏托邦》是瑞士資訊原創的科幻系列短篇小說,嘗試以創新和富有遠見的方式回答相關問題。多虧了眾多小說作家們的創造力,以及在故事所述領域工作的瑞士研究人員和專業人士的精誠合作,我們才有機會嘗試去想像和理解技術將如何塑造我們的生活。每個科幻故事都將附有一篇與瑞士頂尖科學家合作撰寫的事實性文章,讓您了解一些尖端研究領域正在發生的事情,激發您的想像力。

End of insertion

一旦看過這個影片,你的思想就被控制了。

在就養老金改革投出電子選票之前,有幾位選民稱在上網時看到了這個影片。此後,他們都傾向於對養老金制度改革投 “反對票”,堅稱他們重視個人自由和責任,不希望更多的政府干預。

一位不具名的可靠消息人士告訴我,與政府關係密切的知名機構有意選擇這些人作為目標。這個項目的代號為“卡佩爾3.0”。

你被迫盲目接受政府提出的任何主張。

人工智慧決定誰能看到什麼。

即使人們足不出戶,他們的表決意志也會受到侵蝕。已經沒有安全的地方了。

下週日,當投票結束時,我們將看到到底是誰主導了選舉-是選民,還是人工智慧。

落款署名:自由思想者

“維蕾娜,你怎麼看?”

維蕾娜猶豫片刻,她的目光從電腦轉向她的母親。母親正抿著嘴唇,眼睛明亮,等待著她的回應。

這一次,這位“自由思想者”開始意識到有些不對勁。

她的母親烏爾西已經成為這位匿名部落客的粉絲,並堅持給女兒看新的貼文,從關於山區防空洞的“內幕消息”到對大型製藥公司的抨擊。維蕾娜並沒有因為這些荒謬的推論而咬牙切齒,但她確實對俗氣的網頁設計而感到無語。自從維蕾娜在蘇黎世的頂尖大學取得博士後職位後,她母親的行為就發生了變化,彷彿烏爾西試圖向女兒證明自己更聰明。

“這不過是一段影片,”維蕾娜想起了她的保密協議,最後說道,“這不太可能是精神控制。人們仍然可以自由選擇。它更像是......”她猶豫了一下,然後想起了那個常用詞-“引導”。

烏爾西正在推特上翻看對於該貼文的評論,神色很驚恐。

“這完全就是操縱!”

用戶frechundfrei說,鑑於人類在做決定方面有多麼無能,我建議讓AI領主來決定結果。這個用戶在11秒收到98次負評和120次點讚。

“我想其他國家可能會這樣做,但瑞士不會。他們不敢,他們會尊重我們,”烏爾西說。

“‘他們’是誰?”

“就是做這件事的人。”

***

維蕾娜還記得他們首次上線人工智慧系統時的情景。她和她的團隊建立了一個深度神經網絡,並向其灌輸關於瑞士的內容。他們的目標是促進民主。

他們指示這個系統找到那些具有極端政治傾向和暴力傾向的人,使他們變得中庸一些:即尋求共識、保障安全。

深度神經網絡在幾秒鐘內給出了名字。該團隊制定好策略,“卡佩爾 3.0”系統為每個策略提供了潛在的結果。最終,他們對人工智慧系統進行程式改寫,並藉由現金獎勵的形式招募選民自願參與這項“社會科學調查”,以期讓該系統發揮其“魔力”。如果成功的話,他們將向聯邦委員會提交一份正式報告。這是她做過的最令人興奮的工作。

“我猜他們的意圖是好的,”她最終回答說,心裡想著是誰走漏了風聲。

“你怎麼知道?你的祖母曾為我們爭取到了投票權。而現在呢?我們卻被洗腦了。甚至連那點自由也被剝奪了。”

“提醒選民注意瑞士的歷史情況並沒有什麼壞處。我小時候你經常給我講這方面的故事。”

通常情況下,這些喚起回憶的話會讓烏爾西平靜下來,但這次卻不起作用。

“準確地說,”她嘶吼道,“你希望大人被當作孩子對待嗎?”

“這只是一部短片,”維蕾娜總結道,但她的話聽起來很空洞無力。

第二週星期天,維蕾娜帶著母親最喜歡的花來了。

烏爾西查看了初步投票結果。與先前的預測相反,似乎投“贊成票”的人更多。維蕾娜忍不住笑了。

“我們成功了!看到了嗎?這不是操縱,而是路線矯正。這種做法很有效。”

她意識到自己說漏嘴了,但為時已晚。

烏爾西片刻之後才明白所聽到的內容。 “你是他們中的一員!”她頓時感到說不上話來,”這是你的大型秘密項目嗎?”

她站起來,聲音也變得越發洪亮。 “你自己大多數時候都不投票,但卻強迫其他人做你想做的事,這麼做合適嗎?”

“不是的,請聽我解釋”

“給我出去。”

當維蕾娜關上門的時候,烏爾西在推特上憤怒地打字。我要求對#卡佩爾3.0進行公投。誰支持我?

***

維蕾娜迷迷糊糊地走回火車站,準備約上朋友,找地方喝上一杯排解排解。突然,她的電話響了。電話那頭是她的教授,聽起來有些反常,言語比較激動。

“我們被肉搜了,整個團隊都被肉搜了。”他低聲說,“有人把我們的家庭地址放在一個論壇上,評論越來越激烈。”

一時間雙方不知說何是好。

“也許今晚不要回家?找別的地方住?我們已經通知了警方。”

她咕噥了幾句,向他保證她自己會小心,但她的腦海裡一片空白。真的到這種地步了嗎?

***

維蕾娜的一位同事最終退出了項目,但她住進了一間新的公寓,並更加努力地工作。她的教授在媒體上為他們的工作辯護,再次強調有關的選民只是一小部分義工。

該團隊幫助即將舉行的人工智慧和民主公投起草反提案。在“卡佩爾3.0”項目暫停的同時,他們利用神經網絡幫助制止學校中的霸凌行為。

相互沉默數週後,烏爾西打電話給她的女兒,希望能夠求同存異。

***

一年後,維蕾娜和她的母親再次見面。她們相互擁抱,然後分別進入了不同的投票站。

在全國部署“卡佩爾3.0”系統

是/否

swissinfo.ch / Michele Andina & Helen James

*          *          *

薩賓·蘇爾(Sabine Sur)是一名翻譯和作家,熱衷於研究科技對人類思維的影響。她是一個樂觀主義者,天性中永遠充滿了好奇。她和家人住在蘇黎世州。她還以Luz Maupin的筆名寫作。

您剛剛讀到的故事有多真實?研究人員和專家解釋理解何在瑞士利用演算法和大數據來促進或阻礙民主。

(譯自英文:中文編輯部)

该故事中的文章

符合JTI标准

符合JTI标准

相关内容: 瑞士资讯SWI swissinfo.ch得到新闻信任计划的认证

这篇文章下方的评论区已关闭。您可以在这里找到读者与我们记者团队正在讨论交流的话题。

请加入我们!如果您想就本文涉及的话题展开新的讨论,或者想向我们反映您发现的事实错误,请发邮件给我们:chinese@swissinfo.ch

分享此故事

更换密码

确定要删除个人资料?