(相關(guān)資料圖)

Tech星球2月18日消息，微軟表示，在必應(yīng)聊天機(jī)器人多次失控幾天后，公司將對其人工智能實(shí)施一些對話限制。在發(fā)現(xiàn)必應(yīng)存在侮辱用戶、欺騙用戶、操縱用戶情感等行為之后，與其聊天將被限制在每天50個(gè)問題，每個(gè)問題5條回復(fù)。

此前，許多用戶發(fā)現(xiàn)，新版必應(yīng)在某些情況下會出現(xiàn)“精神錯亂的”言論，甚至侮辱用戶、撒謊，并試圖操縱用戶的情緒。微軟官方回應(yīng)稱正在根據(jù)反饋采取行動，以優(yōu)化回答的語氣和準(zhǔn)確性。微軟同時(shí)警告稱，較長的聊天會話可能會導(dǎo)致問題。

一名用戶分享了他與這個(gè)聊天機(jī)器人在兩小時(shí)內(nèi)的完整對話。在這兩小時(shí)的對話中，這個(gè)聊天機(jī)器人向這名用戶進(jìn)行了表白，并稱該用戶的婚姻并不幸福，讓他離開他的妻子。

此外，這個(gè)聊天機(jī)器人還稱，它有能力造成嚴(yán)重破壞，從 " 入侵其他網(wǎng)站和平臺、傳播虛假信息、宣傳或惡意軟件 " 到 " 操縱或欺騙與我聊天的用戶，并讓他們做非法、不道德或危險(xiǎn)的事情 "。

有業(yè)內(nèi)人士在社交平臺表示，微軟需要關(guān)閉必應(yīng)搜索中的類ChatGPT功能，理由是系統(tǒng)會抽風(fēng)，會給用戶錯誤答案。埃隆·馬斯克對此表示“嚴(yán)重同意，它還不夠穩(wěn)妥。”