(資料圖片)
近日,加拿大魁北克大學(xué)的四位研究人員發(fā)現(xiàn),基于 GPT-3.5 接口的聊天機(jī)器人 ChatGPT 在生成代碼時存在嚴(yán)重的安全問題。研究人員讓 ChatGPT 生成了21個程序和腳本,結(jié)果顯示只有5個是安全的。
部分問題是由于它沒有考慮敵對的代碼執(zhí)行模型,但在后續(xù)被要求改進(jìn)問題時,它才提供了有用的指導(dǎo)。研究人員認(rèn)為,ChatGPT 的這種行為并不理想,因為用戶需要對特定的漏洞和編碼技術(shù)有一定了解。此外,ChatGPT 內(nèi)部存在道德上的不一致性,它會拒絕創(chuàng)建攻擊代碼,但卻會創(chuàng)建有漏洞的代碼。研究人員認(rèn)為,使用 ChatGPT 生成代碼存在風(fēng)險,需要讓學(xué)生意識到,如果代碼是用這種類型的工具生成的,那么它很可能是不安全的。
(8164860)
標(biāo)簽:
為什么家里的電器都是直流電 入戶的卻是交流電?
山西潞城:火紅燈籠鬧元宵 張燈結(jié)彩年味濃
廣州疾控緊急通告:到過重點(diǎn)場所的人員進(jìn)行健康管理
安徽16歲弟弟捐獻(xiàn)造血干細(xì)胞救24歲哥哥
滾動