AI뉴스 · 해설
“일단 지우고 본다” — 메타의 AI 자동단속이 죄 없는 계정을 대량으로 삭제하고 있습니다
인스타그램·페이스북에서 AI 자동 모더레이션 시스템이 정상적인 계정을 잘못 정지·삭제하는 사례가 계속 보고되고 있습니다. 팔로워 100만 명에 가까운 계정도 언론 개입 이후에야 겨우 복구되는 등, “일단 지우고 나중에 확인한다”는 운영 방식의 부작용이 누적되고 있습니다.
- 메타의 운영 원칙: AI가 먼저 차단하고, 사람이 나중에 검토하는 구조
- 독일의 한 피트니스 코치는 연동된 페이스북 계정이 해킹당한 뒤, 정작 본인 인스타그램·비즈니스 계정까지 함께 정지됨
- 팔로워 약 100만 명 계정도 정지됐다가 언론 취재 후에야 복구된 사례 확인
뭐가 문제인가
메타는 대규모 플랫폼 특성상 사람이 일일이 검토하기 어려운 양의 콘텐츠·계정을 AI로 먼저 걸러내고 있습니다. 문제는 “먼저 차단, 검토는 그다음” 순서로 설계돼 있다는 점입니다. 사람의 후속 검토 인력·프로세스가 AI의 판단 속도를 따라가지 못하면서, 오탐(정상 계정을 위반으로 잘못 판단하는 것)이 걸러지지 못한 채 그대로 계정 정지·삭제로 이어지는 경우가 늘고 있습니다. 게다가 이의제기 절차 자체가 불투명하거나 사실상 작동하지 않는다는 불만도 함께 제기되고 있습니다.
왜 지금 이 문제가 불거지는가
플랫폼들은 스팸·사기·아동안전 위협 등에 신속 대응해야 한다는 압박 속에서 AI 자동화 비중을 계속 늘려왔습니다. 문제는 이 자동화가 정교해질수록 “강력한 단속”과 “억울한 오탐”이 같은 속도로 함께 늘어난다는 점입니다. 실제로 2025년부터 이어진 대규모 계정 삭제 사태 이후에도 개선이 더뎌, “AI가 방아쇠를 당기고 사람이 뒤늦게 수습하는” 구조 자체가 근본 원인으로 지목되고 있습니다.
내 계정이 갑자기 정지됐다면 — 체크리스트
- 연동된 다른 계정(페이스북↔인스타그램)이 먼저 해킹·신고당하지 않았는지 확인
- 공식 이의제기(어필) 절차를 반드시 텍스트로 남기고, 스크린샷으로 기록해둘 것
- 비즈니스 계정이라면 메타 비즈니스 지원팀·파트너 채널을 함께 활용
- SNS·언론에 공개적으로 알리는 것이 실제로 복구 속도를 앞당긴 사례가 다수 확인됨
자주 묻는 질문
Q. 제 계정도 이런 이유로 정지될 수 있나요?
연동 계정 해킹, 신고 누적, 정책 위반 오탐 등 다양한 경로로 발생할 수 있어 완전히 예방하긴 어렵지만, 연동 계정 보안(2단계 인증 등)을 강화하면 위험을 줄일 수 있습니다.
Q. 이의제기하면 보통 얼마나 걸리나요?
공식적으로 명시된 처리 기한은 없으며, 사안에 따라 며칠에서 수 주까지 걸리는 것으로 보고됩니다.
Q. 메타가 이 문제를 인정하고 있나요?
메타는 개별 사례에 대해 언론 문의 후 계정을 복구하는 경우가 있었지만, 시스템 자체에 대한 공식적인 구조 개편 발표는 아직 확인되지 않았습니다.
→ 원문: CuratedSci