OpenAI在兩個(gè)多月前發(fā)布的聊天機(jī)器人名聲大噪，現(xiàn)在OpenAI又要“用魔法打敗魔法”，推出了針對(duì)人工智能生成文本的識(shí)別工具。
【資料圖】
據(jù)美國(guó)消費(fèi)者新聞與商業(yè)頻道（CNBC）報(bào)道，美國(guó)人工智能研究機(jī)構(gòu)OpenAI在當(dāng)?shù)貢r(shí)間1月31日推出了一款新工具，旨在識(shí)別文本是由電腦自動(dòng)生成還是由人類(lèi)撰寫(xiě)。
AI代寫(xiě)作業(yè)，ChatGPT遭教育界拉黑
就在兩個(gè)月之前，OpenAI推出的聊天機(jī)器人ChatGPT可謂火遍全球，進(jìn)而引發(fā)全世界各路資本和科技巨頭將目光投向這一賽道。
聊天機(jī)器人ChatGPT可以根據(jù)用戶(hù)提示來(lái)模仿類(lèi)人對(duì)話，令很多人沉迷于與它聊天。這款程序無(wú)論是生成小說(shuō)、解答疑難問(wèn)題或者是哲學(xué)的問(wèn)題，都能交出讓人驚嘆的答案。
硬幣都有兩面，ChatGPT本身也有不少問(wèn)題，比如它有時(shí)候答非所問(wèn)，甚至牛頭不對(duì)馬嘴，讓人不知所以，相關(guān)的用戶(hù)隱私保護(hù)也將是一大難題。不過(guò)，目前顯露出來(lái)最為嚴(yán)重的問(wèn)題當(dāng)屬“代寫(xiě)作業(yè)”。
據(jù)《紐約時(shí)報(bào)》1月16日?qǐng)?bào)道，美國(guó)北密歇根大學(xué)教授Antony Aumann評(píng)改“世界宗教”課程的結(jié)課論文時(shí)，發(fā)現(xiàn)一篇論文相當(dāng)出彩。該文章以罩袍禁令的道德影響為題，段落簡(jiǎn)潔，例子恰當(dāng)，論據(jù)嚴(yán)謹(jǐn)。但在Aumann詢(xún)問(wèn)之后，學(xué)生向他坦陳，這篇文章其實(shí)是用ChatGPT生成的。
本起代寫(xiě)事件遠(yuǎn)非個(gè)例，此前有調(diào)查顯示，ChatGPT已被美國(guó)大學(xué)生廣泛用于代寫(xiě)作業(yè)。這也引發(fā)了教育界人士的廣泛擔(dān)憂，數(shù)日前，紐約教育部門(mén)便下令“拉黑”了ChatGPT，所有紐約市的學(xué)生和教師，都無(wú)法在學(xué)校網(wǎng)絡(luò)及設(shè)備上訪問(wèn)ChatGPT。
新工具對(duì)AI生成文本的識(shí)別率為26%
對(duì)于代寫(xiě)作業(yè)，OpenAI也給出了解決方式——一款新的文本識(shí)別工具。不過(guò)，這款工具是否真的能夠“用魔法打敗魔法”尚且存疑。
OpenAI的首席執(zhí)行官Sam Altman近日在一次訪談中表示，在新技術(shù)出現(xiàn)后，傳統(tǒng)的教育方式發(fā)生了變化，但他也提到，公司可能有辦法幫助教師來(lái)識(shí)別人工智能生成的文本。
據(jù)CNBC，OpenAI的員工們表示，OpenAI這款識(shí)別工具仍在改進(jìn)之中，可能會(huì)犯錯(cuò)，希望能得到家長(zhǎng)和老師的反饋，在一次評(píng)估中“我們的工具正確地將26%的AI生成文本識(shí)別為‘可能是AI生成的’，同時(shí)錯(cuò)誤地將9%的人類(lèi)撰寫(xiě)文本標(biāo)記為‘AI生成文本?！?/p>
有意思的是，員工們還提到，人工智能生成的文本稍作升級(jí)，就能夠讓識(shí)別工具無(wú)法準(zhǔn)確判別文本是否由人類(lèi)撰寫(xiě)。如此看來(lái)，ChatGPT和新工具或?qū)⒄归_(kāi)“道高一尺魔高一丈”的角逐。
OpenAI由特斯拉CEO埃隆·馬斯克和投資家Sam Altman等人創(chuàng)辦，2018年馬斯克退出公司董事會(huì)。2019年，OpenAI獲得了微軟10億美元的投資，隨后兩家公司已經(jīng)進(jìn)行了長(zhǎng)達(dá)數(shù)年的合作，OpenAI在微軟的Azure云計(jì)算服務(wù)上開(kāi)發(fā)其人工智能超級(jí)計(jì)算技術(shù)。近日，據(jù)美國(guó)科技媒體The Information報(bào)道，微軟可能會(huì)將OpenAI的ChatGPT整合到Word、PowerPoint、Outlook和其他應(yīng)用程序中，并將使用ChatGPT背后的人工智能來(lái)推出一款新版搜索引擎必應(yīng)（Bing）。
就在上周，微軟公司宣布，將對(duì)OpenAI進(jìn)行持續(xù)數(shù)年、多達(dá)數(shù)十億美元的投資。微軟并未公開(kāi)具體金額，不過(guò)美國(guó)財(cái)經(jīng)媒體Semafor此前報(bào)道稱(chēng)，微軟對(duì)OpenAI的投資或高達(dá)100億美元。
營(yíng)業(yè)執(zhí)照