在電腦自主性越來越強的時代，我們怎樣確保它們按照人類的意志行事呢？
這聽起來像是個抽象的哲學問題，但據加州大學伯克利分校(University of California, Berkeley)計算機科學教授、人工智能(AI)領域世界領先的思想家之一斯圖爾特?羅素(Stuart Russell)表示，它也是一個緊迫的現實挑戰。
他說，想象這樣的場景太容易了：或是因為無意錯用，抑或因為故意濫用，越來越強大的自主電腦系統給現實世界帶來可怕的破壞。例如，假設在不遠的將來，一個保育機器人負責照顧你的孩子。一天你快要遲到了，讓機器人幫你做飯。機器人打開冰箱，沒有找到食物，于是它計算了你的寵物貓的營養價值，最后做了一份燉貓肉。
您已閱讀19%（308字），剩余81%（1328字）包含更多重要信息，訂閱以繼續探索完整內容，并享受更多專屬服務。