英國研究人員正在研制一種能與人交流的高智能自動化係統。這種係統不是簡單與人對話，而能與人討論乃至爭辯，有助于操作者更好地作出決策。這一係統的雛形最快三年問世。
　　阿伯丁大學教授瓦姆博托瓦斯康塞洛斯説，研制能與人討論乃至辯論的自動化係統旨在增加人對智能技術的信任。
　　他説，機器人之類的自動化係統是現代工業組成部分，無需人守在旁邊就能執行任務，應用在諸多領域，可以迅速處理大量信息，判斷如何行動。不過，自動化係統可能在運行中出現差錯，有時“説不清因為人還是係統”。
　　瓦斯康塞洛斯説，如果人不明白某個自動化係統為什麼在某個特定時間以某種特定方式執行某項特定任務，可能會不信任這個自動化係統。
　　機器人會説話不稀奇，而高度智能、能與人討論的機器人仍停留在科學幻想中。
　　瓦斯康塞洛斯説：“我們正在創造的是新一代自動化係統，能與人雙向交流。”
　　這種係統不“出聲”，以在屏幕上顯示詞句的方式與人交流。典型交流情形是，人問機器人為什麼作出某一決定，是否有其他選擇，為什麼沒有採用其他選擇。
　　這種交流“讓人可以質詢或推翻機器人的決定”。
　　“你可以在必要時指揮電腦係統打破或修改規則，以便更好地利用資源或確保安全，”瓦斯康塞洛斯説。
　　人機交流的最終目的是確保機器作出令人滿意的決定。不過，雙向交流中，當人對機器給出的所有選擇都不滿意時，機器可能回答：“抱歉，我能做的就是這些。”
　　會討論的高智能自動化係統有望部署在外星球和深海，或用于執行國防任務，或在核設施等危險環境中作業。
　　為防止係統聰明過頭、自行其是，係統研制人員在設計過程中注意防止係統作出威脅性、野蠻或敵對反應，特意邀請一名心理學家參與設計。
　　美國科學幻想小説作家艾薩克阿西莫夫認為，設計高智能機器人必須遵循若幹規則，最重要的一條就是“機器人不可以傷害人或坐視人受傷害”。
　　瓦斯康塞洛斯説，實現人機交談後，人擔負的責任更多，出錯後不能再簡單歸咎于機器。“責任隨權力而至。所有這些對話都會存檔，出了什麼問題能找到責任方。”