• AI發展史(三):爲什麽圖靈希望AI代理犯錯

          52ai 行業資訊 2019-05-27 22:28:13 7933 0 研究技術行業發展

          編者注:AI史的敘述方式往往是機器隨時間轉移而變得越來越聰明。但這種敘述缺少了人的要素,沒有講清楚智能機器是如何由人的身體和思想來設計、訓練與賦能的。

          爲此,IEEE推出了總共六篇的AI秘史系列文章,希望從創新者、思想家、工人甚至小販等人如何創造可複制人類思想和行爲的算法的角度來彌補這一缺失。盡管無需人類輸入的超智計算機令人興奮,但智能機器的真正曆史已經證明,AI的水平只能跟我們一樣的好。此文爲系列的第三篇,作者是 Oscar Schwartz,原文標題爲:Untold History of AI: Why Alan Turing Wanted AI Agents to Make Mistakes

          AI發展史(一):AI發展史(一):會下棋的土耳其機器人

          AI發展史(二):美國第一台計算機背後的女程序員

          AI發展史(四):憧憬人機共生的DARPA夢想家

          AI發展史(五):算法偏見誕生于1980年代

          AI發展史(六):Amazon土耳其機器人,人工的人工智能

          第三部分:圖靈的錯誤

          1950年,數字時代即將開啓之際,阿蘭·圖靈發表了他最著名的一篇論文,題目叫做《計算機器與智能》,在裏面他提出了一個問題,“機器會思考嗎?’

          圖靈並沒有試圖去定義“機器”和“智能”這兩個詞,相反,他概述了回答這個問題的另一種辦法,這個辦法源自維多利亞時代的一種客廳消遣活動,名字叫做模仿遊戲。遊戲規則規定,一個男人和一個女人分別位于不同的房間,他們將通過手寫筆記與裁判進行溝通。裁判必須猜誰是誰,但他們的任務會有點複雜,因爲那位男性在設法模仿女性。

          在這種遊戲的啓發之下,圖靈構思了一個思想實驗,將其中一位選手換成了計算機。如果計算機在編程之下能夠把這個遊戲玩得很溜,以至于裁判無法斷定自己究竟是在跟人還是機器對話的話,圖靈提出,那就有理由推斷出機器是智能的。

          這個思想實驗後來被稱爲圖靈測試,至今仍是AI界最著名、引起爭議最大的想法之一。這個思想實驗吸引力的經久不衰,是在于它有望給一個充滿哲學意義的問題——“機器會思考嗎?”——提供了一個不會模棱兩可的答案。如果計算機通過圖靈測試,則答案就是肯定的。正如哲學家Daniel Dennett所寫那樣,圖靈測試本該是哲學對話的終結者。“與其無休止地爭論思考的終極本質和要義,我們爲什麽不都就這一點達成一致呢?即無論其本質是什麽,任何東西只要通過了這一測試,當然就擁有思考能力。”

          但是如果你再仔細看看圖靈的論文,你就會發現裏面有一個小細節其實給測試引入了模糊性,那個細節暗示,可能圖靈的意思仁鼎彩票首页的是有關機器智能的一種哲學上的挑釁而不是實際測試。

          在《計算機器與智能》的一段裏面,圖靈模擬量對想象中未來的智能計算機測試可能的樣子。(人提出問題,計算機回答)

          Q:請給我寫一首有關福思橋(Forth Bridge)主題的十四行詩。

          A:這種事情別找我。我從來都不會寫詩。

          Q:34957 +70764等于多少?

          A:(停頓了約30秒後再給出答案)105621。

          Q:你會下國際象棋嗎?

          A:會。

          Q:我在 K1 處有一個王,除此之外沒有棋子了。你在 K6 處有一個王且在 R1 處有一個車。現在由你走,你會怎樣走?

          A:(15 秒停頓後) 將車移動到 R8,然後將死。

          在這個交流中,計算機器是犯了一個運算錯誤。那兩個數相加的結果其實是105721,不是105621。身爲出色的數學家的圖靈不大可能會意外留下這個錯誤。這個更有可能是一個彩蛋,目的是想提醒讀者。

          圖靈似乎在文章的其他地方提出,這種算錯數其實是一種編程上的花招,是騙過裁判的一種手段。圖靈知道,對計算機響應研究仔細的讀者會發現這個錯誤,然後認爲只有人才會犯這種錯誤,而機器不會犯這麽低級的算術錯誤。圖靈寫道:“機器可以故意引入計算錯誤來迷惑質問者。”

          盡管利用錯誤來給出這是人類智能的暗示著1950年的時候很難理解,但這已經成爲致力于自然語言處理的程序員的一種設計實踐。比方說,2014年6月,一個叫做Eugene Goostman的聊天機器人據說已經成爲第一個通過圖靈測試的計算機。但批評者很快指出,Eugene之所以能通過測試是因爲一項內置的作弊手段:Eugene模仿的是一個英語爲第二語言的13歲男孩。這意味著他的語法錯誤和不完備的知識會被誤認爲天真無邪和不成熟,而不是自然語言處理能力的缺陷。

          類似地,在Google的語音助理系統,Duplex,去年也用擬人的嗯、啊等向群衆示好,很多人指出這並不是系統所做出的真正思考,而是人工編碼出來的遲疑來模仿人類的認知。

          這兩種情況都是圖靈的想法,即計算機可以設計成犯一些簡單的錯誤來給人留下對方是人的印象。就像圖靈一樣,Eugene Goostman和Duplex的程序員也知道,在人類的易錯性方面進行膚淺的僞裝就足以騙過我們。

          也許圖靈測試要評估的並不是機器是否智能,而是我們是否願意接受它是智能的。正如圖靈自己所說那樣:“智能這個概念本身就是情感惡如是數學意義上的。我們認爲某個東西行爲的智能程度如何,既取決于我們自己的心理狀態與訓練情況,也取決于該對象的自身屬性,二者的決定程度是一樣的。”圖靈似乎認爲,也許智能並不是一種可以編程進機器的物質,相反,而是一種通過社會互動構造的才能。

          分享
          版權聲明

          本文僅代表作者觀點,不代表本站立場。
          本文系作者授權發表,未經許可,不得轉載。

          評論

          X-POWER-BY FNC V1.0.0 FROM 自制56