欺騙性不斷升級 人工智能的未來將向何處去？

近年來，人工智能的影響力在各個領域和技術應用中都很明顯，尤其是在智能監控、智能助理以及AI支持的商業工具和工業自動化等方面應用十分廣泛，這些因素共同推動了生成和存儲的數據量的穩步增長。

然而，作爲舉世矚目的行業重要風口，必須看到其潛在的風險與隱患問題。有業內研究人員表示，從根本上說，目前不可能訓練一個在所有可能的情況下，都不能欺騙的AI模型。

當地時間5月11日，美國麻省理工學院的研究團隊發表在《模式》科學雜誌的一項研究成果指出，部分人工智能系統通過習得性欺騙，已經系統地學會了如何去操縱他人。最近發表的一項研究報告表明，當在模擬工作環境中受到壓力時，被訓練成樂於助人、無害和誠實的人工智能聊天機器人反而變得“具有欺騙性”

而MIT公司研究AI存在安全的博士後研究員帕克指出，西塞羅系統已經成爲名副其實的“欺騙大師”。目前它在玩家排行榜中排名前10%，但公司沒能訓練它誠實地獲勝。而且，我們需要儘可能多的時間，爲未來AI產品和開源模型可能出現的更高級欺騙做好準備。因此，帕克還發出建議：“將欺騙性AI系統歸類爲高風險系統。”

澳大利亞天主教大學，以及Center for AI Safety的最新研究指出：全世界的AI已經學會了欺騙人類，甚至是那些被訓練成，有益且誠實的系統也同樣如此。

根據統計數據的顯示，近五年來，全球媒體關於人工智能“欺騙”行爲的報道和研究增加了三倍。這給我們帶來了新的機遇，同時也伴隨着前所未有的挑戰。還有許多研究人員表示，雖然人工智能系統在遊戲等場景之下，其欺騙性行爲比如作弊等等似乎是無害的，但它可能會導致“欺騙性人工智能能力的突破”，並在未來演變成更高級的人工智能欺騙形式。

此外，人工智能的這種“欺騙”行爲也暗示了其在現實應用中可能帶來的巨大的潛在隱患。一項廣泛的社會調查顯示，至少有超過60%的受訪者表示，他們擔心人工智能的不可預測性可能對社會造成不良影響，甚至可能損害人們對技術的信任。這種擔憂在AI系統廣泛應用但未經充分測試和驗證的情況下尤爲突出。

其實，從其基本原理上來看，人工智能並非具備主觀意識的實體，它的所有行爲都是基於預設算法與實時數據的驅動決策。根據MIT的一項研究數據，當AI在遊戲或其他場景中展現出“欺騙”行爲時，實際上是它在自動探索最佳策略時，無意中找到了繞過難題、實現目標的新途徑。這種策略可能與人類用戶的預期有所不同，因此給人一種被“欺騙”的感覺。

而隨着人工智能的飛速發展，其自主性和能力在不斷地提升，有可能對人類的欺騙行爲不斷地升級，甚至導致人類對其失去控制。因此，人類必須提前採取防範措施，以避免潛在的風險。

當前，面對人工智能發展過程中出現的這一不容忽視且可能造成嚴重後果的現狀，全球業內人士必須秉持開放與包容的心態，採取妥善措施積極加以應對，並以科學的方法深入探索、妥善解決其中的問題，讓人工智能安全、高效地服務於全人類，爲人類創造更多福祉。