OpenAI는 AI 기반 소셜 미디어 감시 도구를 개발하기 위해 ChatGPT를 포함한 자사의 AI 모델을 오용한 중국과 연결된 계정 네트워크에 대해 조치를 취했습니다.
OpenAI의 최신 위협 인텔리전스 보고서에 따르면, 금지된 계정들은 소셜 미디어 활동을 모니터링하도록 설계된 AI 시스템의 코드를 디버깅하고 편집하는 데 ChatGPT를 활용했습니다. 또한 이 사용자들은 영업 홍보물을 생성하고 정치적 주제를 분석하는 데 OpenAI의 기술을 사용했으며, 이는 정부 주도의 정보 작전과 관련이 있을 가능성을 시사합니다.
이 보고서는 OpenAI가 자사 모델의 악의적인 사용 사례를 적극적으로 식별하고 해체하는 방법을 강조합니다. 이러한 움직임은 대규모 감시, 정치적 조작, 개인에 대한 무단 감시를 위해 AI를 사용하는 것을 금지하는 OpenAI의 엄격한 정책에 부합하는 것입니다.
이번 조치는 국가 관련 단체나 위협 행위자에 의한 기술 오용을 방지하기 위한 OpenAI의 광범위한 노력의 일환입니다. Facebook은 책임감 있는 AI 배포와 사이버 보안 전문가와의 협력을 통해 AI 기반 위협을 억제하겠다는 약속을 다시 한 번 강조했습니다.
보고서 전문은 OpenAI 공식 사이트에서 확인할 수 있습니다.
SKOREA.NEWS