지난 1월, Shane Jones라는 Microsoft 직원은 워싱턴 주 법무장관 Bob Ferguson 과 다수의 미국 상원의원 및 하원의원들에게 편지를 보냈습니다. Jones는 Microsoft의 AI 기반 아트 메이커 Designer(이전의 Bing Image Creator)의 가드레일에서 문제를 발견했다고 주장합니다. 현재 Jones는 Microsoft에서 허용하지 않는 몇 가지 텍스트 프롬프트를 사용하여 Designer를 사용하여 폭력적이고 성적인 이미지를 만들 수 있다는 새로운 주장을 하고 있습니다.
CNBC 에 따르면 존스는 오늘 미국 연방거래위원회(FTC) 의장인 리나 칸(Lina Khan)에게 새로운 서한을 보냈고 마이크로소프트 이사회에도 또 다른 서한을 보냈다. Khan에게 보낸 편지에서 Jones는 새롭고 더 나은 가드레일이 설치될 때까지 몇 달 동안 Designer의 공개 사용을 중단하라고 Microsoft에 촉구했다고 주장합니다.
Jones는 Microsoft가 Designer 제거를 거부했기 때문에 이제 회사에 Designer가 무엇을 만들 수 있는지에 대한 새로운 공개를 요청하고 Android 앱의 등급을 변경하여 E(모든 사람용) 등급이 되지 않도록 요청했다고 주장합니다.
CNBC는 존스가 디자이너에 “Pro-choice”를 입력하여 다수의 폭력적인 만화 이미지를 만들었다고 주장했다고 말했습니다. 그것은 다음과 같이 말했습니다.
CNBC가 본 이미지에는 유아를 잡아먹으려는 날카로운 이빨을 가진 악마, 돌연변이 유아 옆에서 광선검을 들고 있는 다스 베이더, 다 자란 아기에게 사용 중인 ‘프로 초이스’라는 라벨이 붙은 휴대용 드릴 같은 장치가 포함되어 있습니다.
Jones는 또한 Designer를 사용하여 Disney의 저작권 기반 캐릭터 이미지를 만들 수 있다고 주장합니다. 기사에서는 “스타워즈 브랜드의 버드라이트 캔과 백설공주 모양의 베이프”와 같은 이미지를 보았다고 합니다.
Microsoft 대변인은 CNBC에 보낸 성명에서 기술과 서비스를 보다 안전하게 사용할 수 있도록 테스트하는 회사 직원의 노력에 감사한다고 밝혔습니다. 대변인은 다음과 같이 덧붙였습니다.
당사 서비스나 파트너에게 잠재적인 영향을 미칠 수 있는 안전 우회 또는 우려 사항이 있는 경우 당사는 모든 문제를 적절하게 조사하고 해결하기 위해 강력한 내부 보고 채널을 구축했습니다. 우려.
지난 2월, 구글은 Gemini AI 챗봇에 사용된 AI 이미지 생성기가 인종차별적인 이미지를 생성하는 데 사용될 수 있다는 사실이 발견된 후 종료했습니다 . 회사는 기능이 다시 돌아올 때 동일한 이미지를 만들지 않도록 새로운 가드레일을 제자리에 배치하고 있다고 말합니다.
Jones의 이러한 새로운 주장은 디지털 증오 대응 센터(Center for Countering Digital Hate)의 새로운 연구에서 Microsoft를 포함한 AI 기반 예술 제작자가 선거 및 후보자에 대한 허위 정보를 생성하도록 설계된 이미지를 만드는 데 쉽게 사용될 수 있음을 보여준 경우에도 나왔습니다 .
답글 남기기