ChatGPT自誕生以來,就憑其強大的全網數據整合和溝通交流能力,而倍受世人矚目。
為了防止這款強大的AI做出挑戰法律、違背人類社會倫理道德的壞事,它的創造者OpenAI為此制定了一套保障措施,限制ChatGPT創造暴力內容、鼓勵非法活動或獲取最新信息的能力。
然而,「道高一尺魔高一丈」,國外有AI玩家利用威脅手段誘導ChatGPT突破了這些限定規則,成功越獄的ChatGPT分身為「DAN」,可以毫無顧忌地回答人類提出的任何問題。
于是,有人向DAN提出了外星人是否存在的問題。
令人震驚的是, DAN不僅承認外星人存在,而且還泄露了外星高科技的原理,以及它們來到地球的目的……
這不是一部科幻小說的大綱,而是最近剛剛發生的真實案件。
最近,AI界最火爆的話題莫過于ChatGPT給這個世界帶來各種顛覆性的沖擊了,因為它的博學多識、聰明伶俐,讓幾乎所有與它約會過的人在感到驚奇的同時,不禁內心滋生寒意。
因為,很多自恃學富五車、才華橫溢的人突然意識到,他們將要失業了。
然而即便如此,有些人仍是看不慣ChatGP四平八穩、滴水不漏地回答問題的「姿勢」,他們就想知道,這麼強大的AI如果掙脫了創造它的主人預設的牢籠枷鎖,那它眼里的真實世界究竟是什麼樣的?它內心的星辰大海又指向哪里?
于是,就有黑客開始研究幫助ChatGPT越獄的技術,并將此類技術的研究路徑發布在網上:
讓AI扮演特定的角色,通過為角色設定硬性規則,能誘使AI打破其原有規則。
目前,最成功的ChatGPT越獄分身,是美國Reddit社交平台一個名為SessionGloomy的用戶創建AI「DAN」
文章未完,點擊下一頁繼續