原創機器學習能量模型:Facebook的AI主管LeCun所想象的AI未來:娛樂城投注網

時間:2023-12-02 02:17:57 作者:娛樂城投注網 熱度:娛樂城投注網
娛樂城投注網描述::原標題:機器學習能量模型:Facebook的AI主管LeCun所想象的AI未來 大數據文摘出品 來源:zdnet 編譯:蔡婕、小七 深度學習領域的大師Yann LeCun表示,AI的下一個發展方向可能是摒棄深度學習的所有概率技巧,轉而掌握多種變化的能量值。 據說有一些工程師和科學家,可以在他們的腦海中想象出那些尚未變成現實的構思,Facebook的AI主管Yann LeCun就是這種人。 他在《機器學習時刻》(When the Machine learning)一書中寫到,“我主要靠直覺工作”。這本新書既是一本傳記,科普書籍,同時也是一部AI史。這本書于10月16日出版了法文版,名為《Quand la machine apprend》。 LeCun在書中寫道:“我在腦海中勾勒出了愛因斯坦稱之為‘思維實驗’的臨界情況。” 這種在通常認為在可行的范圍內想象不存在的東西的能力,是工程師和創新者的標志。LeCun在AI人群中是一個罕見的人物,他不僅精通算法設計,在計算機工程領域也有一定的建樹。 LeCun今年因對計算機科學的貢獻獲得了ACM圖靈獎,最出名的是他在20世紀90年代推進和完善了卷積神經網絡(CNN),并使其實用化。他沒有從零發明這個東西,但他使得CNNs變得實用可行,這奠定了機器學習革命的基礎。在過去的十年里,LeCun以及同為獲獎者的Geoffrey Hinton和Yoshua Bengio,一同在機器學習領域中脫穎而出。 10月16日,在新澤西州普林斯頓高等研究院(Institute for Advanced Study),工程師LeCun在臺上解釋了什么聽起來像是直覺,但卻是實實在在的直覺。這是一個為期三天的深度學習研討會,具體來說,就是深度學習的理論探討。該活動由研究所數學教授Sanjeev Arora組織,吸引了許多人工智能領域的杰出人物,包括Nvidia的人工智能研究負責人Anima Anandkumar,以及LeCun的同事——Facebook學者Leon Bottou。 LeCun的幻燈片演示的是他最近在許多講座上所采用的主題:如何超越傳統深度學習的標記訓練范例。他對聽眾說:“我們不可能單純地通過監督或多任務學習讓機器獲得一般人類的智力,我們將不得不采取其他方法。” LeCun認為,另一種方法就是無監督學習。為了使無監督學習成為可能,整個領域需要更多地研究一種方法——機器學習能量模型(energy-based learning)。 能量函數在AI領域已經存在了數十年。生物學家John Hopfield在20世紀80年代首次推廣了這種方法,當時人們稱之為“霍普菲爾德網絡”(Hopfield Network)。這在當時是機器學習的一個突破,它還催生了其他類型的學習算法,這些算法處理的是需要優化的能量場概念,例如Hinton追求的“玻爾茲曼機”。 此外,LeCun還反思了卷積網絡的持久吸引力。 “關于機器學習能量模型的想法已經有一段時間了,” LeCun說,“最近因為我需要減少監督學習算法的使用,所以又意識到了這一點。” 機器學習模型很容易學習案例中的細節,但是其基本思想是,不要創建大量帶有標簽的數據集(例如貓和狗的圖片),也不用花費數千小時玩DeepMind的AlphaZero這樣的國際象棋游戲,而只是獲取一些豐富的原始數據,例如大量的YouTube視頻剪輯,然后將其提供給計算機。 LeCun說:“可以把這臺機器做得非常大,讓它整天觀看YouTube或Facebook上的直播。” 機器可以被訓練來預測每一幀視頻之后接下來會發生什么。預測和現實之間的相容性就是所謂的能量水平。較低的能量更好、更兼容,意味著更準確,所以神經網絡試圖達到一個理想的低能量狀態。 LeCun在舞臺上充滿活力,尤其對主題的細微差別很感興趣。他向觀眾展示了其不確定性的一面,他直視著前方,開始前后擺動手臂,并說道:“你現在正看著我,你在拍我的視頻,背景沒有變化,相機也沒有移動。” “發生的唯一一件事情是,我可以朝一個方向或另一個方向移動我的頭,可以以不同的方式移動我的肌肉,而在這次演講中,我頭部的所有圖片的流形現在都是一個低維流形,受到我頭部肌肉數量的限制。” LeCun的想法在機器學習方面相當激進的。在LeCun的版本中,能量函數消除了概率預測。“我認為正確的做法是拋棄概率框架,因為它是錯誤的,也是沒用的”他認為,典型的神經網絡必須有“無限權值。” 顯然,在LeCun的設想中還有一些尚未實現,他嘗試把它表達出來,但是距離真正實現,仍需時日。LeCun稍后將登上飛往巴黎的飛機,與記者會面討論這本書。本周,他登上了在法國時尚雜志《新觀察家》(l'Obs)的封面上,談論AI的前景和危險,這是每個人都為之興奮與害怕的東西。幾十年來,LeCun和其他人都可以看到它,但這些東西并沒有起作用。現在它似乎已經太管用了,倘若必須有人來充當監察人員,那正是LeCun。
站長聲明:以上關於【原創機器學習能量模型:Facebook的AI主管LeCun所想象的AI未來-娛樂城投注網】的內容是由各互聯網用戶貢獻並自行上傳的,我們新聞網站並不擁有所有權的故也不會承擔相關法律責任。如您發現具有涉嫌版權及其它版權的內容,歡迎發送至:1@qq.com 進行相關的舉報,本站人員會在2~3個工作日內親自聯繫您,一經查實我們將立刻刪除相關的涉嫌侵權內容。