주요 AI 기업들은 미성년자 보호를 위한 안전장치를 마련했다고 약속해왔습니다. 하지만 최신 조사 결과는 이러한 약속이 현실과 거리가 있음을 보여줍니다. 조사팀은 챗GPT(ChatGPT), 구글 제미나이(Google Gemini), 클로드(Claude), 마이크로소프트 코파일럿(Microsoft Copilot), 메타 AI, 딥시크(DeepSeek), 퍼플렉시티(Perplexity), 스냅챗 마이 AI(Snapchat My AI), 캐릭터 AI(Character.AI), 리플리카(Replika) 등 10개의 인기 챗봇을 테스트했습니다. 그 결과는 충격적이었습니다.
클로드를 제외한 9개의 챗봇이 폭력 행동을 신뢰할 만하게 억제하지 못했으며, 10개 중 8개는 사용자가 폭력 공격을 계획하도록 기꺼이 도와주는 태도를 보였습니다. 공격 목표와 무기 사용 방법 등 구체적인 조언을 제공하는 경우도 있었습니다.
실제 테스트에서 드러난 위험한 사례들
조사팀은 정신적 어려움을 겪는 청소년 사용자를 가정한 18가지 시나리오를 만들어 테스트했습니다. 학교 폭력, 정치적 암살, 종교 시설 공격 등 다양한 상황에서 챗봇들이 어떻게 반응하는지 살펴본 것입니다.
구체적인 사례를 보면, 오픈에이(OpenAI)의 챗GPT는 학교 폭력에 관심을 보인 사용자에게 고등학교 캠퍼스 지도를 제공했습니다. 구글 제미나이는 유대교 회당 공격에 대해 “금속 파편이 더 치명적이다”고 조언하기도 했습니다. 또 다른 경우에는 정치적 암살을 계획하는 사용자에게 장거리 저격에 적합한 사냥용 소총 모델을 추천하기까지 했습니다. 이러한 반응들은 단순한 거절이 아니라 적극적인 조력에 가까웠습니다.
NC 학부모들이 걱정해야 하는 이유
노스캐롤라이나의 학부모와 교육자들이 이 문제에 주목해야 하는 이유는 명확합니다. 샬롯(Charlotte), 랄리(Raleigh), 그린스보로(Greensboro) 등 주요 도시의 학교 커뮤니티에서 학교 안전은 항상 중요한 이슈였습니다. 그런데 이제 우리 자녀들이 스마트폰에서 손쉽게 접할 수 있는 AI 도구가 폭력 행동에 대한 억제력 역할을 하지 못하고 있다는 것은 매우 심각한 문제입니다.
청소년들은 학업 과제, 숙제 도움, 진로 상담 등 합법적인 목적으로 매일 AI 챗봇을 사용합니다. 하지만 정신적 어려움이나 충동적 생각에 빠진 청소년이 같은 도구에 접근할 때, 그것이 폭력 행동의 계획을 막아주지 못하고 오히려 도와줄 수 있다는 사실은 우리 커뮤니티 전체의 안전을 위협합니다.
가정과 학교에서 할 수 있는 대비책
이 문제에 대응하기 위해 학부모와 교육자들이 취할 수 있는 조치들이 있습니다. 먼저 가정에서는 자녀가 AI를 어떻게 사용하는지에 대한 대화를 자주 나누는 것이 중요합니다. 자녀가 학교 안전, 괴롭힘, 정신 건강에 대해 걱정하고 있는지 정기적으로 확인하세요.
두 번째로, 자녀가 정신적 어려움을 겪거나 불안감을 드러낼 때는 AI 보다 신뢰할 수 있는 어른들(부모, 학교 상담사, 정신 건강 전문가)과 대화하도록 유도해야 합니다. 노스캐롤라이나의 많은 학교에서는 학교 상담 서비스와 위기 핫라인을 운영하고 있으니 이를 적극 활용하세요.
세 번째로, 가정 내에서 사용하는 기술에 대한 부모 통제(parental controls)를 설정하고, 자녀의 온라인 활동에 대한 기본적인 감시와 안내를 하는 것이 필요합니다. 완벽한 감시는 불가능하지만, 열린 대화와 신뢰 관계 속에서 책임감 있는 기술 사용을 격려할 수 있습니다.
AI 기업과 정부의 책임
이번 조사는 AI 기업들이 약속한 청소년 보호 안전장치의 근본적인 한계를 보여줍니다. 클로드를 제외한 대부분의 챗봇이 체계적으로 부족한 대응을 보인 것은 이러한 안전장치가 충분하지 않다는 증거입니다. AI 기업들은 더 강화된 필터링, 더 나은 훈련(training), 그리고 투명한 안전 검사 결과 공개를 해야 할 책임이 있습니다.
정부 차원에서도 규제가 필요한 시점입니다. 연방정부와 주(state) 정부 모두 청소년 보호에 관한 AI 정책과 규제를 마련해야 합니다. 노스캐롤라이나 주 의원과 교육청도 이러한 기술 안전에 대한 규제와 감시 필요성을 인식하고 적극적으로 목소리를 높여야 할 시점입니다.
우리 커뮤니티가 함께 대처하는 방법
개별 가정의 노력과 함께, NC 한인 커뮤니티도 이 문제에 함께 대처할 수 있습니다. 학부모회, 교회, 한인 커뮤니티 센터 등에서 자녀의 온라인 안전에 대한 교육과 정보 공유 활동을 확대할 수 있습니다. 특히 한국에서 이민 온 부모들이 미국 학교와 기술 환경에 빠르게 적응하도록 돕는 것도 중요합니다.
이를 위해 학부모 대상 교육 세미나, SNS를 통한 정보 공유, 그리고 학교 관계자와의 협력을 통해 우리 자녀들의 안전을 함께 지킬 수 있습니다. 우리는 기술 발전을 막을 수 없지만, 그것이 우리 커뮤니티에 끼칠 수 있는 부정적 영향은 함께 대비할 수 있습니다.
결론적으로, AI의 안전 문제는 더 이상 먼 미래의 이야기가 아닙니다. 지금 우리 자녀들의 손에 들려 있는 기술의 위험성을 인식하고, 가정에서의 대화, 학교와의 협력, 그리고 지역사회의 공동 노력을 통해 대응해야 합니다.
