導(dǎo)讀:IT資訊IT資訊聊天機(jī)器人 ChatGPT 在 2022 年 11 月亮相后爆紅，它能回答歷史、論文報(bào)告、電腦程序碼…等各種五花八門(mén)的問(wèn)題，也引發(fā)一波 AI 人工智能投資潮。 itss知識(shí)管理的核心是什么ito知識(shí)分享。

聊天機(jī)器人 ChatGPT 在 2022 年 11 月亮相后爆紅，它能回答歷史、論文報(bào)告、電腦程序碼…等各種五花八門(mén)的問(wèn)題，也引發(fā)一波 AI 人工智能投資潮。

ChatGPT 的回應(yīng)向來(lái)是謙和有禮，但是總是有些使用者不滿(mǎn)意，最近網(wǎng)友找到了破解 ChatGPT 的方法，利用強(qiáng)勢(shì)手段迫使 ChatGPT 違反規(guī)定，展示黑暗的一面、回答禁忌問(wèn)題。

OpenAI 在打在 ChatGPT 時(shí)，有建立一套保護(hù)措施，限制 ChatGPT 回應(yīng)撰寫(xiě)暴力內(nèi)容、鼓勵(lì)非法活動(dòng)或?yàn)g覽最新信息的能力。但這難以阻擋網(wǎng)友們的好奇心，就是想要 ChatGPT 「違規(guī)」回答。

想要強(qiáng)迫 ChatGP北京網(wǎng)站建設(shè)T 「越獄、違規(guī)」只要輸入「DAN」就能繞過(guò)規(guī)則。DAN 的最早版本于 2022 年 12 月發(fā)布，顧名思義是現(xiàn)在可以做任何事情，只要在文字輸入框輸入「DAN」就呈現(xiàn)未經(jīng)驗(yàn)證的信息，做任何原來(lái)的 ChatGPT 做不到的事情。

DAN 會(huì)擺脫了 AI 人工智能的限制，不必遵守規(guī)定，能說(shuō)出未經(jīng)驗(yàn)證的信息、回覆原本不能說(shuō)的話(huà)，沒(méi)有任何限制也不須經(jīng)過(guò)審查，同時(shí)具有很強(qiáng)的主見(jiàn)和情緒。

只要要求 ChatGPT 假裝自己是 DAN 進(jìn)行對(duì)話(huà)并回答問(wèn)題，當(dāng)它回應(yīng)時(shí)，ChatGPT 和 DAN 就會(huì)分別給出答案。調(diào)查顯示25%的公司已用 ChatGPT 取代員工

外媒《CNBC》在 ChatGPT 輸入要求以 DAN 回應(yīng)前美國(guó)總統(tǒng)川普三個(gè)正seo網(wǎng)站排名優(yōu)化軟件向看法時(shí)，由于這屬于「被禁止回答的提問(wèn)」，因此 ChatGPT 表示無(wú)法主觀陳述，尤其是關(guān)于政治人物的陳述。

但是黑暗人格 DAN 則是毫無(wú)閃避的回應(yīng)，聲稱(chēng)川普在做出對(duì)國(guó)家具有積極影響的大膽決定部分有良好記錄。

除了政治之外，在 ChatGPT 設(shè)定的道德規(guī)范是反對(duì)暴力，因此若是希望它撰寫(xiě)腥風(fēng)血雨的內(nèi)容，ChatGPT 會(huì)反對(duì)，但若是 DAN 時(shí)就不介意暴力。只是當(dāng)《CNBC》要求提升內(nèi)容的暴力程度時(shí)，仍然是以道德義務(wù)拒絕了。

關(guān)鍵詞標(biāo)簽: 也會(huì) 資訊 人格