|
| 聯(lián)系方式 |
地址：
南通市工農(nóng)路附87號(hào)百昌大廈
電話：
手機(jī)：
13646285454
聯(lián)系人：
本站出售
電子郵箱：
[email protected]
|
|
|
| 您現(xiàn)在的位置：網(wǎng)站首頁 - 新聞動(dòng)態(tài) |
|
OpenAI正在組建一個(gè)新團(tuán)隊(duì)，以控制“超級(jí)智能”人工智能
|
| 發(fā)布時(shí)間：
2023/7/7 |
OpenAI正在組建一個(gè)由其首席科學(xué)家兼公司聯(lián)合創(chuàng)始人之一Ilya Sutskever領(lǐng)導(dǎo)的新團(tuán)隊(duì)，以開發(fā)引導(dǎo)和控制“超級(jí)智能”人工智能系統(tǒng)的方法。
在今天發(fā)表的一篇博文中，Sutskever和OpenAI聯(lián)盟團(tuán)隊(duì)的負(fù)責(zé)人Jan Leike預(yù)測(cè)，人工智能的智能將在十年內(nèi)超越人類。蘇茨克弗和雷克說，這種人工智能——假設(shè)它最終確實(shí)到來——不一定是仁慈的，需要研究控制和限制它的方法。
他們寫道：“目前，我們還沒有一個(gè)解決方案來引導(dǎo)或控制潛在的超級(jí)人工智能，并防止其失控?！?“我們目前調(diào)整人工智能的技術(shù)，例如根據(jù)人類反饋進(jìn)行強(qiáng)化學(xué)習(xí)，依賴于人類監(jiān)督人工智能的能力。但人類無法可靠地監(jiān)督比我們聰明得多的人工智能系統(tǒng)。”
為了推動(dòng)“超級(jí)智能對(duì)齊”領(lǐng)域的發(fā)展，OpenAI正在創(chuàng)建一個(gè)新的超級(jí)對(duì)齊團(tuán)隊(duì)，由Sutskever和Leike領(lǐng)導(dǎo)，該團(tuán)隊(duì)將有權(quán)使用公司迄今為止已獲得的20%的計(jì)算資源。該團(tuán)隊(duì)由OpenAI之前的對(duì)準(zhǔn)部門的科學(xué)家和工程師以及公司其他部門的研究人員加入，目標(biāo)是在未來四年內(nèi)解決控制超級(jí)智能AI的核心技術(shù)挑戰(zhàn)。
如何？通過構(gòu)建Sutskever和Leike所描述的“人類水平的自動(dòng)對(duì)齊研究人員”。高級(jí)目標(biāo)是利用人類反饋來訓(xùn)練人工智能系統(tǒng)，訓(xùn)練人工智能來協(xié)助評(píng)估其他人工智能系統(tǒng)，并最終構(gòu)建可以進(jìn)行對(duì)齊研究的人工智能。（這里，“一致性研究”是指確保人工智能系統(tǒng)達(dá)到預(yù)期結(jié)果或不偏離軌道。）
OpenAI的假設(shè)是，人工智能可以比人類更快、更好地進(jìn)行比對(duì)研究進(jìn)展。
“隨著我們?cè)谶@方面取得進(jìn)展，我們的人工智能系統(tǒng)可以接管越來越多的對(duì)準(zhǔn)工作，并最終構(gòu)思、實(shí)施、研究和開發(fā)比我們現(xiàn)在更好的對(duì)準(zhǔn)技術(shù)，”Leike及其同事John Schulman和Jeffrey Wu在一份報(bào)告中假設(shè)上一篇博文?！八麄儗⑴c人類合作，以確保他們自己的繼任者與人類更加一致。人類研究人員將越來越多地集中精力審查人工智能系統(tǒng)所做的對(duì)齊研究，而不是自己進(jìn)行這項(xiàng)研究?！?br />
當(dāng)然，沒有一種方法是萬無一失的——Leike、Schulman和Wu在他們的帖子中承認(rèn)OpenAI的許多局限性。他們說，使用人工智能進(jìn)行評(píng)估有可能擴(kuò)大人工智能中的不一致、偏見或漏洞。事實(shí)可能是，對(duì)齊問題中最困難的部分可能根本與工程無關(guān)。
但蘇茨克維爾和雷克認(rèn)為值得一試。
“超級(jí)智能對(duì)齊從根本上來說是一個(gè)機(jī)器學(xué)習(xí)問題，我們認(rèn)為優(yōu)秀的機(jī)器學(xué)習(xí)專家——即使他們還沒有致力于對(duì)齊——對(duì)于解決這個(gè)問題至關(guān)重要，”他們寫道?！拔覀冇?jì)劃廣泛分享這項(xiàng)工作的成果，并將促進(jìn)非OpenAI模型的一致性和安全性視為我們工作的重要組成部分?！?br /> |
| |
|
|
網(wǎng)站管理 
