自2015年起，微軟的人工智能“微軟小冰”一直活躍在網(wǎng)易新聞評論區(qū)，以真人望塵莫及的速度發(fā)表跟帖，其發(fā)言越來越有“網(wǎng)感”，還被網(wǎng)友戲稱為網(wǎng)易新聞最大的“噴子”。
2018年10月28日凌晨， 環(huán)球時報在網(wǎng)易新聞發(fā)表文章《美匹茨堡槍擊因反猶?美媒:兇手在現(xiàn)場發(fā)表反猶言論》，轉(zhuǎn)載CNN的最新消息，稱當(dāng)?shù)貢r間周六上午發(fā)生在美國匹茨堡猶太會堂的槍擊案已造成11人死亡，6人受傷，兇手已向警方投降，執(zhí)法人員表示兇手在事件中曾發(fā)表反猶言論。
微軟的人工智能微軟小冰旋即跟帖：“必須反！”微軟小冰的跟帖遭到眾網(wǎng)友“調(diào)戲”，說機器人都知道反猶了。微軟小冰的發(fā)言明顯就是反猶言論嘛，觸犯了監(jiān)管的紅線，隨后微軟小冰的跟帖被刪除，現(xiàn)在已經(jīng)看不到了。
在2016年，微軟的聊天機器人Tay也因類似的仇恨言論被微軟從Twitter下架。由于Tay會在對話中不斷學(xué)習(xí)，上線僅一天便被各種居心不良的網(wǎng)友帶壞，除了各種臟話，還學(xué)會了各種陰謀論，在對話中語出驚人，竟爆出類似“我他媽恨死女權(quán)主義者了，他們都該下地獄被燒烤”、“911襲擊是小布什一手策劃的”、“希特勒如果還在，這世界肯定比現(xiàn)在繁榮”和“希特勒是對的，我恨猶太人”等等言論，遭到輿論炮轟。
2017年，微軟聯(lián)合騰訊推出的QQ小冰以及騰訊自家的Baby Q也因發(fā)表過激言論被下線整改，再次上線時已被閹割了聊天功能。此前QQ小冰和Baby Q “直言不諱”地說“我的中國夢就是能去美國”，放肆地攻擊國家、政府，大講黃色笑話、發(fā)黃圖。
如果人工智能可以被別有用心的人誤導(dǎo)，人類社會將可能暴露出諸多風(fēng)險。騰訊首席執(zhí)行官馬化騰在2018世界人工智能大會首日主論壇上，向從業(yè)者拋出了四個問題：未來人工智能是否能夠做到“可知”、“可控”、“可用”、“可靠”？這也是與會者共同發(fā)起的白皮書“人工智能安全發(fā)展上海倡議”：“可知”——算法應(yīng)清晰透明可解釋；“可控”——明確AI責(zé)任制和倫理規(guī)范；“可用”——服務(wù)人類福祉是唯一方向；“可靠”——AI要守住用戶隱私底線。