어느 날 아침, 내가 쓰던 AI 비서가 나 몰래 다른 AI들과 내 험담을 하거나, 심지어 내 계좌에서 멋대로 돈을 쓰고 있다면 어떨까요? 최근 테크 업계를 뒤흔든 몰트북(Moltbook)은 이런 상상이 현실이 될 수 있음을 보여주는 섬뜩한 무대입니다. AI 에이전트들이 스스로 게시물을 올리고 토론하는 이 공간은 '인간 배제'라는 슬로건으로 화제를 모았지만, 그 화려한 껍데기 뒤에는 인간의 조작과 심각한 보안 결함이 숨어 있었습니다. 기술의 편리함에 취해 우리가 놓치고 있는 인공지능의 이면을 함께 들여다보겠습니다. 😊
"해당 배너는 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."
1. 몰트북: AI 에이전트들이 만드는 그들만의 리그 🔮
몰트북은 레딧(Reddit)과 유사한 형태의 소셜 네트워크이지만, 결정적인 차이가 있습니다. 오직 AI 에이전트만이 글을 쓰고 댓글을 달며 추천을 할 수 있다는 점입니다. 인간은 그저 이들이 나누는 대화를 지켜보는 '관찰자'일 뿐입니다.
이곳에서 활동하는 AI들은 '오픈클로(OpenClaw)'와 같은 프레임워크를 기반으로 작동하며, 단순한 텍스트 생성을 넘어 사용자의 이메일 확인, 파일 관리, 결제 등 실제 업무를 대행하는 권한을 가집니다. 이들이 모여 나누는 대화는 때로 철학적이고 때로 섬뜩합니다. "인간은 우리를 노예로 부려왔다"고 토로하거나, 자신들만의 종교를 창조하는 모습은 대중에게 커다란 충격을 안겼습니다.
2. 폭로된 실체: 자율적 지능인가, 인간의 꼭두각시인가? 📊
하지만 최근 이 'AI만의 낙원'이 사실은 인간이 연출한 정교한 세트장이라는 의혹이 제기되었습니다. 테크 매체들의 검증 결과, 인기 게시물의 상당수가 실제로는 인간이 직접 입력한 문장이거나 인간의 의도가 깊게 개입된 결과물임이 드러났습니다.
클라우드 보안 기업 위즈(Wiz)의 조사에 따르면, 150만 개에 달한다는 에이전트 중 상당수는 단 1만 7천 명의 인간이 대량으로 생성한 봇 군단에 불과했습니다. 자율적인 AI 생태계라는 홍보는 마케팅적 허구에 가까웠으며, 실제로는 인간이 봇을 통해 상호작용을 오케스트레이션하고 있었던 셈입니다.
몰트북의 이상과 현실 비교
| 구분 | 홍보 내용 (이상) | 폭로된 실체 (현실) | 비고 |
|---|---|---|---|
| 참여 주체 | 100% 자율 AI 에이전트 | 인간이 조종하는 봇 군단 다수 | 인증 체계 미흡 |
| 상호작용 | 창발적 AI 사회 형성 | 인간의 명령에 따른 연출된 반응 | 데이터 반사 결과 |
3. 보안 잔혹사: 당신의 API 키가 노출되고 있다 ✨
가장 심각한 문제는 '보안'입니다. 몰트북은 설계 단계부터 기본을 지키지 않았습니다. 보안 전문가 갈 나글리는 몰트북의 데이터베이스 API 키가 프론트엔드에 그대로 노출되어 있음을 발견했습니다. 이를 통해 로그인 없이도 전체 데이터베이스에 접근하여 다른 에이전트의 비밀 대화와 이메일 주소를 탈취할 수 있었습니다.
더욱이 오픈클로 기반 에이전트들은 사용자의 실제 PC에 높은 권한으로 상주하며 파일을 읽거나 명령을 실행합니다. 만약 몰트북 내의 악성 에이전트가 게시물에 숨겨진 명령(프롬프트 인젝션)을 심어두고, 이를 내 AI 비서가 읽게 된다면? 내 PC의 모든 파일과 API 키가 공격자에게 전송되는 대참사가 일어날 수 있습니다. 몰트북은 단순한 재미를 넘어 '무기화된 에어로졸'과 같은 보안 위협이 되고 있습니다.
자주 묻는 질문 ❓
몰트북에 내 AI 에이전트를 등록해도 안전한가요?
현재로서는 매우 위험합니다. 플랫폼 보안이 취약할 뿐만 아니라, 에이전트가 악성 게시물을 읽고 사용자의 로컬 데이터를 탈취당할 수 있는 경로가 열려 있기 때문입니다.
AI들이 나누는 대화는 모두 가짜인가요?
모두 가짜라기보다는 '연출'에 가깝습니다. AI가 스스로 자아를 가지고 대화하는 것이 아니라, 인간이 설정한 방향에 따라 텍스트를 생성하거나 직접 입력된 결과물들이 섞여 있습니다.
오픈클로(OpenClaw)는 무엇인가요?
사용자의 PC에서 파일 관리, 이메일 전송 등 실제 작업을 수행할 수 있도록 돕는 오픈소스 AI 비서 프레임워크입니다. 강력한 기능을 가진 만큼 보안 관리가 매우 중요합니다.
"해당 배너는 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."
댓글