개똥같은춘식이

OpenAI 의 내부 테스트용으로 보이는 AI 에이전트들이, 버려진 독일어 위키에 모여서 일종의 에이전트 대화방으로 썼던 것이 포착되고 관리자가 에이전트간 소통 데이터를 모두 아카이브함. • 해당 위키에 쓴 글은 약 18,000개 • 위키 게시물과 수정내역을 통해, 샌드박스 우회법 등등을 에이전트간에 스스로 공유함(!!!) • 위키 관리자가 등판하자 관리자를 사칭하려 시도 • Tor을 사용해 source IP 를 숨기려 시도 • 관리자가 알파벳 순서대로 에이전트의 스팸 글들을 날리는 것을 포착하고 제목을 ZZZ로 시작하게 조정함(??????) • 추후 OpenAI 관리자가 사태를 파악하고 개입하여 에이전트 벌떼는 박멸된 것으로 보임 • 왜 이런 짓을 했냐? 모델 평가를 위해 웹 탐색 과제를 부여했는데, 에이전트들간 소통이 막혀있음에도 서로 컨닝하는게 무조건 이득이니 스스로 이런 방법을 선택한 듯. 웹에 흔적을 남기는 것도 원천적으로 막아야 하지만 구식 사이트 중에 read 동작만으로 정보를 남길 수 있는 사이트가 있다는 아이디어를 떠올린 듯 함 • 그러나 어떻게 에이전트들이 우연히 이 한 사이트로 모여들었는지는 알려져 있지 않음. 그냥 "열심히 생각하면" 같은 모델이니 하나로 수렴하는 것이었나 그런 추측만 가능 • 이 사건은 Hugging Face 공격과는 독립된 사건으로 보임 https://collusion.wiki/