메타, 나이를 속이는 미성년자 인스타그램 사용자를 잡기 위해 AI를 사용할 계획

인스타그램의 새로운 AI 연령 감지 도구

메타는 플랫폼이 젊은 층에 미치는 영향에 대한 우려를 해소하기 위해 사용자의 연령을 확인할 수 있는 AI 도구를 인스타그램에 출시할 계획입니다.

'성인 분류기'라고 불리는 이 시스템은 팔로워 목록, 참여 콘텐츠, 친구의 생일 게시물 등 프로필의 다양한 측면을 기반으로 사용자의 실제 나이를 파악하는 것을 목표로 합니다.

도구에서 사용자가 18세 미만이라고 의심되는 경우, 신고 연령과 관계없이 자동으로 더 제한적인 버전의 앱으로 배정됩니다.

청소년 계정에 대한 더 엄격한 통제

2024년 9월, 메타는 더욱 강화된 제한이 적용되는 '청소년 계정'을 도입했습니다.

이러한 계정은 기본적으로 비공개이며 메시지를 보낼 수 있는 사용자와 액세스할 수 있는 콘텐츠 유형이 제한됩니다.

또한 보호자가 자녀의 설정을 관리하고 플랫폼에서 자녀의 상호작용을 모니터링할 수 있는 시간 알림 및 자녀 보호 기능을 설정할 수 있습니다.

메타는 어린 사용자의 안전을 보장하기 위해 적극적으로 노력해왔지만, 새로운 성인 분류기는 연령 확인을 위한 보다 진보된 접근 방식입니다.

생년월일을 변경하려는 경우 신분증으로 나이를 확인해야 할 수 있습니다.

또는 18세 이상의 팔로워 3명이 나이를 확인할 수 있는 '소셜 바우처'라는 방법을 사용할 수도 있습니다.

또한 메타는 기술 회사인 Yoti와 제휴하여 사용자가 동영상 셀카를 사용하여 나이를 확인할 수 있도록 함으로써 나이 주장에 대한 조사를 한층 더 강화했습니다.

규제 압력 연료 변경

이러한 개발의 시급성은 Instagram이 청소년에게 미치는 영향에 대한 규제 및 대중의 압력이 커지고 있기 때문입니다.

보고서에 따르면 2019년 초부터 Meta는 인스타그램에서 미성년자 사용자에 대한 110만 건 이상의 알림을 받았지만, 이 중 극히 일부 계정만 사용 중지되었습니다.

월스트리트 저널은 Facebook이 10대 청소년, 특히 어린 소녀들이 플랫폼에서의 상호작용으로 인해 겪는 심각한 정신 건강 문제를 인지하고 있었다고 강조했습니다.

2023년 미국 41개 주가 메타를 상대로 소송을 제기하면서 메타가 젊은 사용자들의 중독을 조장하고 정신 건강 위기에 기여하는 기능을 고의로 설계했다고 주장하면서 문제가 더욱 심각해졌습니다.

이 소송은 또한 메타가 부모의 동의를 얻지 않고 아동의 데이터를 처리했다는 의혹을 제기하며 아동 온라인 개인정보 보호법(COPPA) 준수에 대한 우려를 제기했습니다.

사전 예방적 조치와 대중의 반발

소셜 미디어의 환경이 극적으로 변화하면서 메타는 청소년의 정신 건강 문제에 대한 역할에 대해 면밀한 조사를 받고 있습니다.

전직 Facebook 직원인 Frances Haugen은 Instagram이 사춘기 소녀들의 행복에 부정적인 영향을 미칠 수 있다는 내부 연구 결과를 공개했습니다.

그 결과, 메타는 청소년 사용자의 안전을 강화하기 위한 일련의 조치를 시행하여 다양한 옹호 단체의 지지를 받고 있습니다.

메타가 이러한 새로운 연령 제한을 효과적으로 시행하는 것이 과제로 남아 있습니다.

영국 통신 규제 기관의 연구에 따르면 소셜 미디어에서 미성년자의 3분의 1이 자신의 나이를 18세 이상으로 허위 신고하는 것으로 나타났습니다.

사용자가 온라인에서 쉽게 나이를 위조할 수 있다는 점을 고려할 때 이 작업은 결코 간단하지 않습니다.

개발 시 강력한 검증 전략

연령 허위 표시에 대응하기 위해 인스타그램은 동일한 이메일 주소에 연결된 생년월일이 일치하지 않는 새 계정을 만들려고 시도하는 사용자를 신고할 계획입니다.

또한 플랫폼은 디바이스의 고유 ID를 분석하여 새 프로필이 이전에 등록된 사용자의 것인지 확인할 수 있습니다.

등록된 나이를 변경하려는 경우, 인스타그램은 정부에서 발급한 신분증 또는 동영상 셀카 등의 증빙 자료를 요구하여 요티의 인증을 받도록 합니다.

이 인증 절차는 개인이 자신의 나이에 대해 진실한지 확인하는 것을 목표로 하며, 메타는 이전에 친구를 통해 나이를 확인하고자 하는 사용자가 사용할 수 있었던 소셜 바우처 옵션을 제거했습니다.

잘못 분류된 사용자에 대한 이의 제기

메타가 성인 분류기를 개선하는 동안 미성년자로 잘못 분류된 사용자는 자신의 상태를 이의를 제기할 수 있는 옵션을 갖게 됩니다.

대변인은 이 항소 절차가 현재 개발 중이라고 밝혔습니다.

당분간은 잘못 분류된 개인이 부모의 동의 없이도 계정 설정을 수동으로 조정할 수 있습니다.

인스타그램은 사용자 프로필에서 수집한 방대한 데이터를 바탕으로 이러한 이니셔티브를 진행할 수 있습니다.

Facebook은 청소년들이 자신의 나이를 허위로 표시하는 것이 당초 예상보다 덜 우려된다는 점을 인정합니다.

그러나 온라인 위협이 증가하고 규제 당국의 감시가 강화됨에 따라 청소년 사용자에게 보다 안전한 환경을 조성하는 것이 그 어느 때보다 중요해졌습니다.

연령 인증에서 앱 스토어의 역할

메타의 경영진은 연령 인증이 앱 스토어까지 확대되어야 한다는 믿음을 표명하며, 이것이 보다 포괄적인 해결책이 될 수 있다고 제안했습니다.

그러나 애플과 구글의 대표들은 이러한 조치가 데이터 최소화 원칙에 위배된다고 반박했으며, 구글은 이 문제에 대한 '단일 해결책'은 없다고 밝혔습니다.

비평가들은 이러한 접근 방식이 사용자의 정직성과 책임감이라는 근본적인 문제를 해결하기보다는 연령 확인의 책임을 사용자에게 전가할 뿐이라고 주장합니다.