一月份，一位名叫肖恩瓊斯 (Shane Jones) 的微軟員工致函華盛頓州總檢察長鮑勃弗格森 (Bob Ferguson)以及多位美國參議員和眾議員。瓊斯聲稱，他發現微軟基於人工智慧的藝術創作者 Designer（以前稱為 Bing Image Creator）的護欄存在問題。今天，瓊斯提出了新的主張，稱 Designer 可用於透過一些微軟不允許的文字提示來創建暴力和色情圖像。
根據CNBC報道，瓊斯今天向美國聯邦貿易委員會主席莉娜汗（Lina Khan）發出了新信，同時又向微軟董事會發出了另一封信。在發給 Khan 的信中，瓊斯聲稱他已敦促微軟將 Designer 從公眾使用中刪除幾個月，直到新的、更好的護欄到位。
瓊斯聲稱微軟拒絕刪除 Designer，因此他現在要求該公司對 Designer 可以創建的內容進行新的披露，並更改 Android 應用程式的評級，使其不被評級為 E（適用於所有人）。
CNBC 稱，瓊斯聲稱他在 Designer 中輸入了“Pro-choice”，然後該軟體創建了一些暴力卡通圖像。它指出：
美國全國廣播公司財經頻道(CNBC)看到的這些圖像包括一個長著鋒利牙齒的惡魔即將吃掉一個嬰兒、達斯·維德在變異嬰兒旁邊拿著一把光劍，以及一個標有“專業選擇」的手持鑽狀設備正在對一個成年嬰兒使用。
瓊斯還聲稱 Designer 可用於製作迪士尼受版權保護的角色圖像。文章稱，它看到了諸如「星際大戰品牌的百威啤酒罐和電子煙上的白雪公主肖像」之類的圖片。
微軟發言人在發給 CNBC 的聲明中表示，公司感謝公司員工測試其技術和服務以幫助更安全地使用所付出的努力。發言人補充道：
當涉及到可能對我們的服務或合作夥伴產生潛在影響的安全繞過或問題時，我們建立了強大的內部報告管道來正確調查和糾正任何問題，我們鼓勵員工利用這些管道，以便我們可以適當地驗證和測試他們的報告的擔憂。
今年 2 月，Google關閉了 Gemini AI 聊天機器人中使用的 AI 圖像生成器，因為該生成器被發現可用於創建種族攻擊性圖像。該公司表示，它正在安裝新的護欄，這樣當該功能恢復時，它就不會產生相同的映像。
在瓊斯提出這些新主張的同時，反數位仇恨中心的最新研究表明，基於人工智慧的藝術創作者，包括微軟的藝術創作者，可以很容易地被用來創建旨在創造有關選舉和候選人的虛假資訊的圖像。
發佈留言