英國正式頒布機器人道德標準:不許傷害、欺騙和令人成癮

851519313_16023466310960986284

【博聞社】艾薩克·阿西莫夫(Isaac Asimov)曾在他的科幻小說里描述了規範機器人行為的三定律,包括:不能傷害人類、服從人類命令和保護自己。現在,英國標準協會正式發布了一套機器人倫理指南,比阿西莫夫三定律更加複雜和成熟。我們的社會已經到了要給機器人制定行為規範的時候了,這不禁讓人產生一種科幻與現實交織的奇妙感覺。

英國標準協會(British Standards Institute,簡稱 BSI),是有着 100 多年歷史的英國國家標準機構,在世界範圍內具有很高的權威性。這個倫理指南的全稱是《機器人和機器系統的倫理設計和應用指南》(以下簡稱《指南》),主要針對的人群就是機器人設計研究者和製造商,指導他們如何對一個機器人做出道德風險評估。最終的目的,是保證人類生產出來的智能機器人,能夠融入人類社會現有的道德規範里。

這個標準的文件代號為 BS8611,發佈於 9 月 15 日英國牛津郡的 “社會機器人和 AI ”(Social Robotics and AI)大會上。西英格蘭大學機器人教授 Alan Winfield 表示,這是業界第一個關於機器人倫理設計的公開標準。

文件內容雖然用詞枯燥,但是裡面所描繪的場景,簡直跟從科幻小說里蹦出來的一樣。機器人欺騙、令人成癮、具有超越現有能力範圍的自學能力,這些都被列為危害因素,是設計人員和製造商需要考慮的。

《指南》開頭給出了一個廣泛的原則:機器人的設計目的不應是專門或主要用來殺死或傷害人類;人類是負責任的主體,而不是機器人;要確保找出某個機器人的行為負責人的可能性。

《指南》也聚焦了一些有爭議性的話題,例如,人類與機器人產生情感聯繫是可以的嗎,尤其是當這個機器人本身設計目的就是為了與小孩和老人互動。

Add a Comment

發佈留言必須填寫的電子郵件地址不會公開。