機器人用頭撞女人的病毒視頻引發了安全問題
類人機器人本應是我們忠實的助手,但是我們看到了另一面前幾天對他們。
中國機器人制造商宇樹 Unitree 在廣東省臺山市的元宵節上展示其最新的 H1 機器人時,其中一臺機器人走到人群屏障前,似乎向一名老婦人猛沖,幾乎撞到她的頭。
該事件很快在網上瘋傳,并且引發了一場激烈的辯論關于機器人是真的攻擊了這名婦女還是被絆倒了。
人們大多忽視了,我們離擁有可以故意攻擊某人的機器人還有很長的路要走——像這樣的機器通常是遠程控制的——但對公眾的危險顯然是真實的。
跟人形機器人的銷售在未來十年內,公眾將越來越面臨此類事件的風險。在我們看來,作為機器人研究人員,政府很少考慮風險。
以下是他們應該采取的一些緊急步驟,以使人形機器人盡可能安全。
1. 提高業主要求
第一個重要問題是人形機器人將在多大程度上被用戶控制。而特斯拉的Optimus 可以遠程作由控制中心的人控制,其他產品,如 Unitree H1s,則由用戶通過手持縱桿控制。
目前售價約為 90,000 英鎊,它們附帶一個軟件開發工具包,您可以在該工具包上開發自己的軟件開發工具包人工智能(AI) 系統,盡管程度有限。例如,它可以說出一個句子或識別一張臉,但不會帶您的孩子去上學。
如果有人被人類控制的機器人傷害甚至死亡,誰該為此負責?很難確定——任何關于責任的討論都首先涉及證明傷害是由人為錯誤還是機械故障造成的。
這出現在佛羅里達州的一個案件中,一名鰥夫就 2022 年妻子的死亡起訴醫療機器人制造商 Intuitive Surgical Inc。她的死亡與她因她的腸道熱灼傷在由公司一臺機器故障引起的作期間。
這案件于 2024 年撤銷在被地區法官部分解雇后。但鰥夫起訴制造商而不是醫務人員的事實表明,機器人行業需要一個法律框架來防止這種情況,就像公眾一樣。
雖然對于無人機,有航空法和其他限制來管理它們在公共區域的使用,但沒有針對步行機器人的具體法律。
到目前為止,唯一提出治理準則的地方是中國上海市.這些法規于 2024 年夏季發布,其中包括規定機器人不得威脅人類安全,并且制造商必須培訓用戶如何合乎道德地使用這些機器。
對于由主人控制的機器人,在英國,目前沒有什么可以阻止有人帶著機器狗在繁忙的公園里散步,或者帶人形機器人去酒吧喝一杯。
首先,我們可以禁止人們在酒精或藥物的影響下控制機器人,或者在他們因其他原因分心(例如使用手機)時控制機器人。它們的使用也可能限制在危險環境中,例如公眾人數眾多的密閉空間、有火災或化學危險的地方以及建筑物的屋頂。
2. 改進設計
看起來時尚、可以跳舞和翻轉的機器人看起來很有趣,但觀眾有多安全呢?安全設計將考慮從減少手指可能被夾住的空腔到內部組件的防水等所有因素。
保護屏障或外骨骼可以進一步減少意外接觸,同時緩沖機構可以減少影響的影響。
機器人的設計應通過燈光、聲音和手勢來傳達其意圖。例如,他們可以說在進入房間時應該發出聲音,以免讓任何人感到驚訝。
如果用戶失去信號或電池并需要返回家中,甚至可以提醒用戶,這種機制也應該內置到步行機器人中。目前沒有針對任何此類功能的法律要求。
這并不是說制造商完全忽視了步行機器人的這些問題。例如,Unitree 的 quadroped Go2 在電池電量不足或過熱時會閃爍和發出嗶嗶聲。
在這些情況下,它還具有自動緊急切斷功能,但當機器人處于“遙測模式”時,它們必須由遠程作員觸發。然而,至關重要的是,沒有明確的法規來確保所有制造商都符合一定的安全標準。
3. 培訓作員
顯然,使用 AI 功能的機器人會存在危險,但遠程作模型可能更加危險。錯誤可能是由于用戶缺乏實際培訓和實際情況的經驗造成的。
作員培訓似乎存在重大技能差距,并且機器人公司需要優先考慮這一點,以確保作員能夠高效、安全地控制機器。
此外,人類的反應時間可能較晚且注意力有限,因此我們還需要能夠監控機器人作員注意力并提醒他們以防止事故的系統。這類似于HGV 駕駛員分心檢測系統2024 年安裝在倫敦的車輛上。
4. 教育公眾
隨著媒體再次出現,中國的事件凸顯了當前對人形機器人的誤解指責人工智能盡管這不是問題所在。這有可能在公眾中引起廣泛的不信任和困惑。
如果人們了解步行機器人在多大程度上是業主作或遠程作的,這將改變他們對機器人可能做什么的期望,從而使每個人都更安全。
此外,了解所有者的控制水平對于管理買家的期望并預先警告他們在購買機器人之前需要學習多少關于作和編程機器人的知識至關重要。
卡爾·斯特拉森, 計算機科學講師,愛丁堡納皮爾大學和艾米莉亞·索博萊夫斯卡,應用信息學講師和研究員,愛丁堡納皮爾大學