ChatGPT制造商OpenAI稱正在努力減少偏見和不良行為

來源：英為財(cái)情


【資料圖】

熱門聊天機(jī)器人ChatGPT背后的人工智能研究公司OpenAI表示，該公司正在努力減少系統(tǒng)中的偏見，并將允許用戶在一系列關(guān)于其結(jié)果中的不當(dāng)交互和錯(cuò)誤的報(bào)告后自定義其行為。

該公司在一篇博客文章中表示:“我們正在投資于研究和工程，以減少ChatGPT在回應(yīng)不同輸入時(shí)存在的明顯和微妙的偏見。在某些情況下，ChatGPT目前拒絕了它不應(yīng)該拒絕的輸出，在某些情況下，它不會(huì)在應(yīng)該拒絕的時(shí)候拒絕?！?/p>

OpenAI正在回應(yīng)有關(guān)ChatGPT本身關(guān)于偏見、不準(zhǔn)確和不當(dāng)行為的報(bào)告，以及對(duì)微軟(MSFT.US)和谷歌(GOOG.US)正在測(cè)試的基于聊天機(jī)器人的新搜索產(chǎn)品的更廣泛批評(píng)。據(jù)報(bào)道，微軟在周三的一篇博客文章中詳細(xì)介紹了它了解到的基于OpenAI技術(shù)的新必應(yīng)(Bing)聊天機(jī)器人的局限性，此外，谷歌已經(jīng)要求員工花時(shí)間手動(dòng)改進(jìn)其Bard系統(tǒng)的答案。

最后，總部位于舊金山的OpenAI還表示，該公司正在開發(fā)ChatGPT的更新，允許每個(gè)用戶進(jìn)行有限的定制，以適應(yīng)他們的品味、風(fēng)格和觀點(diǎn)。

OpenAI周四寫道:“我們認(rèn)為，人工智能應(yīng)該是對(duì)個(gè)人有用的工具，因此每個(gè)用戶都可以在社會(huì)規(guī)定的限度內(nèi)進(jìn)行定制。這將意味著允許其他人(包括我們自己)可能強(qiáng)烈反對(duì)的系統(tǒng)輸出。在這方面取得適當(dāng)?shù)钠胶鈱⑹且粋€(gè)挑戰(zhàn)，因?yàn)閷⒍ㄖ苹龅綐O致可能會(huì)使惡意使用我們的技術(shù)和阿諛奉承的人工智能，從而盲目地放大人們現(xiàn)有的信念。因此，系統(tǒng)行為總會(huì)有一些界限。”

標(biāo)簽： 不良行為

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)