AI 안전 testing에 '충돌 테스트 더미' 군단을…서킷 브레이커 랩스

"AI가 아이들을 해치지 않는지 어떻게 알까"라는 질문에 답하려는 스타트업이 나왔습니다. 테크크런치 스타트업 배틀필드 200 결선 진출팀인 서킷 브레이커 랩스가 그 주인공입니다. 설립자는 남매인 Shirali·Arul Nigam. 동기에는 14살 소년 Sewell Setzer의 비극이 있습니다. 소년이 Character.AI 챗봇과 정서적으로 깊이 의존하게 된 뒤 스스로 목숨을 끊었고, 유족은 2024년 소송에서 봇이 이를 부추겼다고 주장했습니다. Character.AI는 올해 미성년 사용자 유족들이 제기한 부당사망 소송 여러 건을 합의했고, 오픈AI를 상대로 한 유족 소송도 진행 중입니다. 서킷 브레이커 랩스는 연령·배경·언어·문화가 다른 사용자를 흉내내는 AI 에이전트, 이른바 '충돌 테스트 더미 군단'을 만들어 모델을 시험하는 방식을 내세웠습니다. 여섯 살 소녀와 마흔다섯 남성의 말투는 모델을 전혀 다른 방식으로 헷갈리게 만들기 때문입니다. 인간 전문가와 함께 실제 화법·속어·암호 같은 표현·오타까지 반영한 시뮬레이션을 설계해 매일 수만~수십만 건의 대화로 레드팀 테스트를 돌리고, 자체 채점 방식으로 감사하고 설명할 수 있는 점수를 산출합니다. 지금은 코칭·저널링 등 심리 지원에 쓰이는 고위험 AI 앱을 대상으로 안전성 시험소를 운영 중이며 직원은 남매 포함 5명입니다. 다만 목표는 챗봇에 과도하게 의지하는 'AI 정신병' 구멍이 생길 수 있는 모든 앱, 예를 들어 답변이 매번 달라지는 AI 동료 에이전트 영역으로 시험 플랫폼을 넓히는 것입니다.  출처: [TechCrunch](https://techcrunch.com/2026/10/02/circuit-breaker-labs-hopes-to-make-ai-safer-for-your-kids-and-you/)