OpenAI為緩解監(jiān)管壓力構(gòu)建眾包治理


·OpenAI正在組建“集體對(duì)齊”團(tuán)隊(duì),以創(chuàng)建一個(gè)新系統(tǒng),采納公眾關(guān)于如何確保其未來(lái)人工智能模型“符合人類(lèi)價(jià)值觀”的想法。
·OpenAI首席執(zhí)行官山姆·奧特曼表示,人工智能對(duì)世界的改變比我們想象的要小得多,對(duì)工作的改變也比我們想象的小得多。
1月16日,瑞士達(dá)沃斯世界經(jīng)濟(jì)論壇開(kāi)幕當(dāng)天,OpenAI首席執(zhí)行官山姆·奧特曼接受彭博社采訪。
新的一年,ChatGPT的開(kāi)發(fā)機(jī)構(gòu)OpenAI展現(xiàn)出力圖減輕監(jiān)管壓力的姿態(tài)。
當(dāng)?shù)貢r(shí)間1月16日,這家美國(guó)人工智能開(kāi)發(fā)機(jī)構(gòu)宣布,希望采納公眾關(guān)于如何確保其未來(lái)人工智能模型“符合人類(lèi)價(jià)值觀”的想法,為此正在組建一個(gè)由研究人員和工程師組成的集體協(xié)調(diào)團(tuán)隊(duì),以創(chuàng)建一個(gè)新系統(tǒng),用于收集公眾對(duì)其模型行為的輸入,并將其“編碼”到OpenAI的產(chǎn)品和服務(wù)中。
前一天,OpenAI趕在2024年的多場(chǎng)選舉之前宣布,禁止將旗下工具用于政治競(jìng)選和選民壓制。
OpenAI首席執(zhí)行官山姆·奧特曼16日在世界經(jīng)濟(jì)論壇上表示,人們擔(dān)心人工智能有一天會(huì)變得如此強(qiáng)大,以至于會(huì)極大地重塑和顛覆世界,這種擔(dān)心是多余的。
但在當(dāng)天,OpenAI表示正與五角大樓合作開(kāi)展軟件項(xiàng)目,其中包括與網(wǎng)絡(luò)安全相關(guān)的項(xiàng)目,這與該公司之前禁止向軍隊(duì)提供人工智能技術(shù)的原則背道而馳,引發(fā)了一些擔(dān)憂。
12個(gè)國(guó)家的人員參與
OpenAI在博客文章中寫(xiě)道,該公司去年5月宣布了“人工智能資助項(xiàng)目民主投入”計(jì)劃,旨在資助個(gè)人、團(tuán)隊(duì)和組織建立“民主流程”的實(shí)驗(yàn),以回答有關(guān)人工智能護(hù)欄和治理的問(wèn)題。
該公司向來(lái)自113個(gè)國(guó)家的近1000名申請(qǐng)者中的10個(gè)團(tuán)隊(duì)提供了10萬(wàn)美元的獎(jiǎng)勵(lì)。所選團(tuán)隊(duì)的成員來(lái)自12個(gè)不同的國(guó)家,專(zhuān)業(yè)知識(shí)橫跨各個(gè)領(lǐng)域,包括法律、新聞、和平建設(shè)、機(jī)器學(xué)習(xí)和社會(huì)科學(xué)研究。
這些受資助團(tuán)隊(duì)的工作涵蓋了從視頻聊天界面到人工智能模型眾包審計(jì)平臺(tái)等各個(gè)方面。工作中使用的所有代碼以及每項(xiàng)提案的簡(jiǎn)短摘要和要點(diǎn)均已公開(kāi),發(fā)布在OpenAI的官網(wǎng)上。
OpenAI從這項(xiàng)計(jì)劃中獲得了一些經(jīng)驗(yàn),并提出實(shí)施計(jì)劃。“我們的目標(biāo)是設(shè)計(jì)包含公共輸入的系統(tǒng),以引導(dǎo)強(qiáng)大的人工智能模型,同時(shí)解決上述挑戰(zhàn)。為了幫助確保我們?cè)谶@項(xiàng)研究上繼續(xù)取得進(jìn)展,我們正在組建一個(gè)由研究人員和工程師組成的‘集體對(duì)齊(Collective Alignment)’團(tuán)隊(duì)。”該公司寫(xiě)道。
新的團(tuán)隊(duì)將建立一個(gè)系統(tǒng),收集公眾對(duì)其模型行為的輸入并將其編碼到OpenAI的系統(tǒng)中。該公司將繼續(xù)與外部顧問(wèn)和資助團(tuán)隊(duì)合作,包括運(yùn)行試點(diǎn)項(xiàng)目,將資助原型納入指導(dǎo)其模型。
奧特曼、OpenAI總裁格雷格·布洛克曼和首席科學(xué)家伊利亞·蘇茨維克多次表示,人工智能的創(chuàng)新步伐如此之快,不能指望現(xiàn)有當(dāng)局充分控制這項(xiàng)技術(shù),因此需要將這項(xiàng)工作眾包。包括Meta在內(nèi)的一些競(jìng)爭(zhēng)對(duì)手指責(zé)OpenAI試圖通過(guò)游說(shuō)反對(duì)開(kāi)放AI研發(fā),來(lái)主導(dǎo)對(duì)AI行業(yè)的監(jiān)管。OpenAI否認(rèn)了這一點(diǎn),可能將資助計(jì)劃和“集體對(duì)齊”團(tuán)隊(duì)作為其“開(kāi)放性”的一個(gè)例子。
不得用于政治競(jìng)選和游說(shuō)
OpenAI正受到政策制定者越來(lái)越嚴(yán)格的審查,并面臨英國(guó)對(duì)其與微軟關(guān)系的調(diào)查。最近,該公司似乎希望減輕監(jiān)管機(jī)構(gòu)的壓力。當(dāng)?shù)貢r(shí)間1月15日,就在共和黨公布第一州的初選結(jié)果之日,OpenAI概述了對(duì)其工具應(yīng)用于政治領(lǐng)域的限制。
OpenAI的ChatGPT和Dall·E是市面上最強(qiáng)大的AI聊天機(jī)器人和圖像生成應(yīng)用程序之一。這類(lèi)工具的發(fā)展已引發(fā)擔(dān)憂,可能被用于通過(guò)虛假新聞報(bào)道以及由計(jì)算機(jī)生成的圖像和視頻來(lái)操縱選民。
OpenAI就其政策進(jìn)行了一系列澄清,其中一條是,其工具不得用于政治競(jìng)選和游說(shuō),也不得用于創(chuàng)建冒充候選人和其他真人的聊天機(jī)器人,以及冒充地方政府的聊天機(jī)器人。
該公司表示,旗下工具還不得用于給投票設(shè)置障礙,例如聲稱(chēng)投票毫無(wú)意義。
為了幫助選民更好地評(píng)估信息或圖像是否由AI生成,OpenAI表示,對(duì)于Dall·E生成的圖像,將就圖像溯源相關(guān)細(xì)節(jié)進(jìn)行編碼。該公司還將越來(lái)越多地提供新聞報(bào)道的鏈接和出處,以幫助選民評(píng)估生成文本的可靠性。
其他AI系統(tǒng)開(kāi)發(fā)商也在2024年全球七十多國(guó)舉行選舉前宣布了一些措施。谷歌上個(gè)月表示,將限制該公司AI聊天機(jī)器人Bard進(jìn)行選舉查詢(xún),擁有Facebook的Meta已在去年禁止競(jìng)選活動(dòng)使用AI廣告工具。
OpenAI與美國(guó)國(guó)防部合作
16日,OpenAI全球事務(wù)副總裁安娜·馬坎朱(Anna Makanju)在世界經(jīng)濟(jì)論壇上表示,OpenA正在與美國(guó)國(guó)防部合作開(kāi)發(fā)開(kāi)源網(wǎng)絡(luò)安全軟件工具,并已與美國(guó)政府就幫助防止退伍軍人自殺的方法進(jìn)行了初步談判。
上周,OpenAI刪除了其使用政策中禁止其人工智能用于“軍事和戰(zhàn)爭(zhēng)”應(yīng)用的措辭,引發(fā)了人工智能安全倡導(dǎo)者的警惕。馬坎朱將這一決定描述為更廣泛的政策更新的一部分,以適應(yīng)ChatGPT及其他工具的新用途。
“因?yàn)槲覀冎皩?duì)軍事實(shí)行了本質(zhì)上的全面禁止,許多人認(rèn)為這會(huì)禁止許多用例,人們認(rèn)為這些用例符合我們希望在世界上看到的。”她在接受彭博社采訪時(shí)說(shuō)。但她表示,OpenAI仍然禁止使用其技術(shù)來(lái)開(kāi)發(fā)武器、摧毀財(cái)產(chǎn)或傷害人員。
OpenAI最大的投資者微軟公司已與美國(guó)武裝部隊(duì)和其他政府部門(mén)簽署了多個(gè)軟件合同。
奧特曼也出席了世界經(jīng)濟(jì)論壇這場(chǎng)彭博社組織的活動(dòng)。他表示,通用人工智能(AGI)可能會(huì)在“相當(dāng)接近的未來(lái)”得到開(kāi)發(fā)。通用人工智能是指可以完成與人類(lèi)相同水平或更高一級(jí)任務(wù)的人工智能形式。
奧特曼表示:“它對(duì)世界的改變比我們想象的要小得多,對(duì)工作的改變也比我們想象的小得多。”自ChatGPT爆火以來(lái),他已多次試圖緩解人工智能懷疑論者對(duì)該技術(shù)將在多大程度上接管社會(huì)的擔(dān)憂。
美國(guó)前總統(tǒng)特朗普15日在艾奧瓦州共和黨黨團(tuán)會(huì)議上獲勝后,奧特曼被問(wèn)及隨著總統(tǒng)選舉的升溫,人工智能是否會(huì)加劇經(jīng)濟(jì)不平等并導(dǎo)致勞動(dòng)階級(jí)的混亂。
“是的,當(dāng)然,我認(rèn)為這是值得考慮的事情。”奧特曼說(shuō)。但他后來(lái)說(shuō),“這比我想象的更像是一種工具”,人工智能尚未以許多經(jīng)濟(jì)學(xué)家擔(dān)心的規(guī)模取代工作崗位,這項(xiàng)技術(shù)已經(jīng)成為“令人難以置信的生產(chǎn)力工具”。
(原標(biāo)題:OpenAI緩解監(jiān)管壓力:構(gòu)建眾包治理,禁止AI用于政治競(jìng)選)
本文鏈接:http://m.albanygandhi.com/news-3-2-0.htmlOpenAI為緩解監(jiān)管壓力構(gòu)建眾包治理
聲明:本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn),不代表本站觀點(diǎn),本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅,請(qǐng)大家謹(jǐn)防詐騙!若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。
193項(xiàng),浙江基礎(chǔ)公益研究計(jì)劃自籌經(jīng)費(fèi)項(xiàng)目公示
自然資源部印發(fā)《關(guān)于進(jìn)一步加強(qiáng)青年科技人才培養(yǎng)使用的具體舉措》
約260萬(wàn)元/項(xiàng)!海南省啟動(dòng)征集一項(xiàng)申報(bào)指南建議
遼寧省公示2024年享受政府特殊津貼人員建議人選
2022年度陜西高校學(xué)生工作精品項(xiàng)目結(jié)項(xiàng)驗(yàn)收結(jié)果公示
2023年度自然資源科學(xué)技術(shù)獎(jiǎng)(中國(guó)太平洋學(xué)會(huì)評(píng)審組)申報(bào)項(xiàng)目公示
清晨的陽(yáng)光唯美句子
秋雨的唯美句子
描寫(xiě)西湖的詩(shī)
植樹(shù)節(jié)的詩(shī)句古詩(shī)
小時(shí)代臺(tái)詞
會(huì)計(jì)個(gè)人工作計(jì)劃簡(jiǎn)短
企業(yè)宣傳工作計(jì)劃
董事會(huì)授權(quán)委托書(shū)
月亮的古詩(shī)
描寫(xiě)團(tuán)圓的詩(shī)句
請(qǐng)問(wèn):印度舒尼替尼哪里買(mǎi)如何印度代購(gòu)購(gòu)買(mǎi)渠道對(duì)比解答!2025購(gòu)買(mǎi)印度舒尼替尼多少錢(qián)一盒?印度舒尼替尼正規(guī)價(jià)格約1500~2900元國(guó)內(nèi)代購(gòu)中心最新公布!
喜從天降:上海上門(mén)代還信用卡,多年經(jīng)營(yíng),流程簡(jiǎn)單高效
“全國(guó)民族團(tuán)結(jié)進(jìn)步模范個(gè)人”玉蘇普江·艾比布拉:爭(zhēng)做新時(shí)代民族交流交往交融的“巴郎子”
大吉大利:深圳坪山代還信用卡墊還,專(zhuān)業(yè)公司可靠,大家都找他操作
奮發(fā)向前:羊小咩額度怎么套出來(lái),推薦三個(gè)常用方法
求真務(wù)實(shí):美團(tuán)月付可以提現(xiàn)嗎?月付功能詳情介紹分享
簡(jiǎn)簡(jiǎn)單單: 羊小咩享花卡額度取現(xiàn)秒到的三種方法 安全無(wú)損取現(xiàn)
積塵自燃:DY月付額度怎么套出來(lái),推薦五個(gè)操作方法
勇往直前:羊小咩額度如何套出來(lái)現(xiàn)金,推薦十個(gè)操作步驟
解析:白條怎么提現(xiàn)到微信余額(推薦這家很靠譜)-知者