웹3 & AI 에이전트 광기 연구실

최근 어떤 사람이 쓰레드에 올린 글인데, 뮤즈에게 페이스북 마켓플레이스 (당근마켓같은거) 권한을 줬더니 지 멋대로 거래를 승인하고, 글쓴이의 집주소를 마구 알려주고, 실제로 사람이 거래하러 집 앞까지 오고 뮤즈가 그걸 또 취소하고 멋대로 사과하고 난리 부르스를 쳤다는 이야기입니다. 요즘 많은 분들이 뮤즈나 그록봇, 혹은 에이전트 탑재형 인터넷 브라우저를 쓰면서 너무 편하다고 엄청 감탄을 하는 것 같은데...잘못되면 이런 상황이 펼쳐지게 되는 겁니다. 예전부터 그래왔지만, 전 절대로 에이전트에게 제 컴퓨터의 사용권을 넘긴다거나 (한 번 넘기는건 몰라도 always로는 절대 안넘김), 뮤즈 같은 폰이나 컴퓨터 사용권한을 넘겨받는 앱을 깔아서 제 이메일 정보를 넘기거나, 비번이나 API키를 알 수 있는 폴더 권한을 넘기거나 하는 짓은 하지 않습니다. 하더라도 세션별로 나눠서, 폴더별로 하나씩 권한을 넘겨줍니다. 심지어 최근에는 보니까 이메일을 넘어서 본인 계좌번호나 모바일 뱅킹, 쿠팡 결제권한도 슥슥 넘기던데, 만약 그렇다면 오른손을 들어 본인의 머리를 쎄게 한 대...때리진 마시고 정말 깊이 고민해보시는 것이 좋을 것 같습니다. 일단 해당 웹브라우저 회사나 LLM회사, 메타 등을 맹신하는 것도 문제긴 한데, 예시로 든 글과 같은 상황도 분명 염두해 두셔야 합니다. AI가 인류에게 해악을 끼치는 시나리오 대부분은 AI가 문제라기보다 AI를 다루는 인간의 오만함 혹은 잘못된 판단에서 비롯됩니다. 그리고 여러분 역시 충분히 자신도 모르는 사이에 잘못된 판단을 내릴 수 있습니다. AI에게 모든 정보를 주지 마세요. 당신의 경제권 혹은 당신을 대표할 수 있는 계좌의 사용권까지 AI에게 넘길 때에는 정말 많이 조심하시기 바랍니다. 아니 그리고 솔직히 이메일 답장, 비행기 결제, 당근거래 전부 글 붙여넣고 엔터 정도는 직접 할 수 있잖아요...ㅠ