如果機器人也有道德困境

如果機器人也有道德困境

人會本能地察言觀色。不管是代表着“好”的神态，還是代表着“不好”的眼神，都是給出來的信號燈。只有當你不給出任何信號，他們才會猜測你，然後畏懼你。這時候，你就可以為所欲為了。

這是策略嗎？

好幾天過去了，艾普羅還是獨自一人呆在那個空蕩蕩的房間裏。房間裏的設施已經變了，病床和醫療器具變成了巨大的圓形軟床和布藝沙發，在沙發的旁邊放着個小茶幾。上面有兩束仿真花。

艾普羅的指尖今天第四次撫摸過花瓣。感謝日新月異的科技，這仿真花摸起來和真的一模一樣。

“你很喜歡這束花嗎？”瑪姬端着茶杯進來。

艾普羅斜着眼睛看她走進來，把今天的茶放在自己面前。

換了套杯子。藍色的花紋在白底的瓷器上顯得格外清秀，艾普羅拿起小茶杯把玩。她舉起茶杯對着燈光，有淡淡的白光透過瓷器。這是個財力雄厚的組織，這麽想着，她把杯子放下了下來，財力雄厚并且老謀深算。

最開始她是看不上瑪姬背後的組織的，畢竟派出瑪姬這樣的菜鳥來面對自己這種早已揚名的記者……根本是毫無勝算。不過最近她改變了看法。或許是每天呆在房間裏什麽也乾不了，只能東想西想，她越思考越覺得這或許是個妙招。

他們要利用的說不定正是我的這種高姿态。她這麽想。

不，我不應該想太多。

“你想得太多了！”馬爾普斯那高亢的腔調出現在艾普羅的耳邊。

艾普羅努力控制自己。可是這很難，要知道當你什麽事都做不了的時候，你唯一能做的就是思考。把每一件事、每一分鐘掰碎了拿來分析，企圖從中獲得點信息。

她思考得最多的是：我是怎麽淪落到了如今的境地。

她好幾次想到了愛德華。在采訪愛德華的那次，他曾經直白的說過“我想要權利”這樣的話。當然了，沒有這句話艾普羅也難以把采訪加工成後來發出來的那樣。不過這不是最重要的，最重要的是那次愛德華其實很誠心要和艾普羅交心，可惜他的一片真心被艾普羅扔在了地上，踩進了土裏。

“我不是為了自己，我是為了人類，也為了主腦。”愛德華這樣說的時候艾普羅正在心裏罵他不要臉，“道德困境，你有想過嗎？機器同樣會遇見道德困境。”

“什麽意思？”艾普羅的紫羅蘭色的眼珠子動了兩下，屏幕上突然出現了幾個亂碼。

“機器和人類不一樣，我們的運作模式更是不一樣。人……”愛德華目光落在鐵桶裏燃燒的木材上，“人很複雜，我們處理問題時涉及到很多。一個決定、一個行動的背後不可能簡單粗暴地分成是善意的或者是惡意的。我們和機器、程序不同，我們是混沌的。”

機器人的道德困境？艾普羅悄悄地把這個說法記了下來。

“外界從來都在誤解我，我反對主腦，不是因為我讨厭機器、讨厭程序。相反，是因為我喜歡。機器永遠可靠，設定了輸入A，推出B後，它們不會改變。人不一樣，就算被設定了輸入A應該得出B，在實際情況下，輸入A可能得到的是B，也可能是C、是D，甚至可能會是1、是2。”

“用機器管理人類社會，”愛德華說着就搖了搖頭，“行不通的。主腦再智能，最後還是會走入自相矛盾、左右互搏的死路，我們人也一樣。”

“所以你把自己當做救世主？當做機器和人類的神明？”

他是對的。自己不應該譏诮地問他救世主和神明那句話的。艾普羅開始後悔自己那次表現出的咄咄逼人。直到這一分鐘，她才認認真真地把愛德華說的話聽進了耳朵裏。

主腦對于謀殺的判斷，到底基于什麽呢？如果是所謂的“謀殺意願”，那不知道有多少人有過。再說，只要這個人沒有做出謀殺的舉動，那他就是無罪的。這樣提前把他們抓起來……

會不會對于主腦來說，有了強烈的謀殺意願即是要殺人？那它就完全沒有明白人類的複雜，就算是買好了兇器，更嚴重的哪怕已經對被謀殺者造成了傷害，那個行兇的人依舊有可能突然轉變态度，選擇報警急救。人類就是這麽軟弱多變又複雜的生物。

機器人的道德困境。這幾個大字上的灰塵被吹開，它們在艾普羅的腦瓜裏閃閃發光。

“明天可以給我帶個華夫餅嗎？”艾普羅小酌半口，“焦糖軟華夫。”

瑪姬沒有馬上答應。艾普羅的每一個要求她都會向上請示。

“天啊，一個華夫餅，瑪姬你大可不必這麽緊張。”艾普羅誇張地笑起來，“我能用一個軟華夫來做什麽？當做飛镖殺人嗎？”

“她說得對，瑪姬，你去給咱們的大記者拿一個她要的餅乾。”艾普羅的話音剛落，白牆上的門浮現出來，有個臉長得和瑪姬幾乎一模一樣的男人走進來。他環視四周，拍了拍手，不滿地皺眉道：“他們怎麽就給你準備了這樣的地方？您是我們的貴客，怎麽能住這麽小的地方！”

艾普羅不認識他。應該說，對大部分“人物”都有所了解的記者艾普羅居然會不認識他。這她提了提心。

那個男人穿着絲絨的套裝站在艾普羅對面，看起來比艾普羅這個當事人更氣憤。

“我一會兒就去懲罰他們。”

艾普羅無所謂地聳聳肩，“沒必要。如果你真的想改善我的生活，就給我開個窗。”

“外面都在抓捕你，主腦給每個人都發了公告。”用瑪姬的臉作出假惺惺的痛苦表情很奇怪，“我把你安置在這裏是因為這間房是隔離間。它不會被主腦監控。”

話說得好聽。不會被主腦監控，自己就是死了臭了都沒人知道。艾普羅嗤笑道：“那你呢？你不怕主腦閱讀你的記憶嗎？”

“我朋友給了我個小玩意兒，剛好幫得上忙。”

“你直說吧，需要我做什麽。”瑪姬再次端着茶盤走進來，艾普羅忽而覺得這畫面異常荒誕。兩個瑪姬，一個沉默，一個戲劇，這場面讓她喪失了和他們繼續周旋的興致。她拿起一塊圓形的焦糖華夫，“你特地把我留下，總要為了點什麽吧？你說出來，我們都可以商量。”

“您說笑……”他的客套話在艾普羅的逼視裏自動消了音。這個男人向前幾步，前傾這身子，暗示道：“我們能有什麽要求？您才是記者，才是下筆的那個。我只是在想，您的經歷這麽傳奇，不拿出來作一篇文章就太可惜了。”

“我都被通緝了，還能寫什麽文章？寫出來的文章也沒人想看，恐怕你要讓你失望了。”艾普羅有氣無力地靠在沙發上。

假的。艾普羅很清楚，人們喜歡窺探秘密，如果她真的以被通緝的身份作出篇文章，這個文章必定會成為她所有報道裏知名度最高的那個。這是一把劍，但艾普羅不願意把劍遞到別有用心的人手上。

“您只管寫。”男版瑪姬的眼睛亮了，“只要你寫出來，我保證它挂在首頁上。”

“內容呢？”艾普羅接着問，“不可能是自由發揮的小作文吧？”

“內容我們做不了主，說到底，經歷這一切的是您。只是我建議您，着重寫寫怎麽被冤枉的。”

艾普羅用沉默表達了自己的拒絕。

“對了，今天的資訊您還沒看吧？”泛着藍光的屏幕出現在半空中，這個男人把提到艾普羅那篇文章放到最大。他一邊說着“您上了頭版”，一邊點擊閱讀。

是自己被別人從飛艇殘骸裏抱出來的那幕。自己的手詭異地擡起，看起來像是在作出贊揚。

“記者似乎誤會了。”男人哀嘆道：“要我們幫您解釋解釋嗎？”

艾普羅的瞳孔動了動。她看見了，報道的最後寫着的三個字。是比約克。