OpenAI는 통합할 것이라고 발표했습니다. ChatGPT의 자녀 보호 기능 미성년자의 대화 도우미 사용에 대한 감독을 강화하기 위한 조치입니다. 이 결정은 민감한 시기에 내려졌으며, 공개 토론이 다음 사항에 집중되어 있습니다. 청소년의 안전과 보호 개인적이고 감정적인 맥락에서 AI를 활용하는 사람들.
회사는 이러한 기능이 활성화되기 시작할 것이라고 밝혔습니다. 다음달부터 그리고 고정된 날짜 없이 가족들에게 모니터링 도구를 제공하고 징후가 나타날 경우 경고를 제공하는 것을 목표로 합니다. "고통" 또는 "급성 스트레스" 그리고 더 많은 통제력 자녀 계정 설정.
OpenAI가 발표한 내용
새로운 보안 패키지는 부모가 귀하의 계정을 십대 자녀의 계정에 연결하세요시스템이 귀하의 요청에 어떻게 반응하는지 확인하고 자녀의 경험에 영향을 미치는 주요 매개변수를 조정하세요.
회사에 따르면, 모델이 징후를 감지하면 심각한 정서적 고통 부모나 보호자에게 알림이 전달되고, 강화된 가이드라인을 바탕으로 더욱 신중하고 일관된 대응이 시행됩니다.
OpenAI는 또한 확장 세션 동안 어시스턴트가 다음을 보여줄 것이라고 발표했습니다. 휴식을 취하라는 알림 건강한 사용 습관을 장려하고 잠재적으로 문제가 될 수 있는 대화 환경을 피하기 위해서입니다.
- 이메일 초대를 통해 부모-자녀 계정을 연결합니다.
- 연령에 적합한 모델 행동 규칙은 기본적으로 활성화되어 있습니다.
- 미성년자와 기능 관리자가 수신한 응답을 검토합니다.
- "고통"이나 "급성 스트레스"의 징후에 대한 자동 알림.
계정 관리 영역에서 부모는 다음을 수행할 수 있습니다. 메모리 및 채팅 기록 비활성화, 특정 혜택을 제한하다 그리고 OpenAI에 따르면 "부모와 청소년 간의 신뢰를 육성"하는 것을 목표로 하는 사용 프레임워크를 정의합니다.
자녀 보호 기능의 작동 방식
시스템이 징후를 식별할 때 극심한 불편함, 상호작용은 보다 조심스럽고 체계적인 행동으로 전환될 수 있으며, 부적절한 반응의 가능성을 줄이기 위해 보다 구체적인 안전 지침을 제공할 수 있습니다.
OpenAI는 명시적으로 언급된 내용에 대해 다음과 같이 설명합니다. 자해 또는 위험도우미는 지원 메시지를 우선시하고, 전문적인 리소스를 제안하며, 해로운 요청에 따르지 않아 긴 대화에서도 이러한 지침의 일관성을 강화합니다.
제3자에게 영향을 미칠 수 있는 위협이 있는 경우 회사는 다음을 고려합니다. 전문 리뷰 채널 자해 상황에서 개인 정보를 보호하는 동시에, 필요한 경우 계정 제한이나 추천을 포함한 추가 조치를 중요하게 생각합니다.
회사는 또한 다음과 같은 보완적 옵션을 통합할 가능성을 연구하고 있습니다. 비상 연락처를 지정하다 부모의 통제 하에, 우려스러운 징후가 감지되면 긴밀한 지원 채널을 구축할 수 있습니다.
맥락: 불만 및 규제 압력
이 발표는 미국에서 다음과 같은 여러 가지 불만이 제기된 후에 나왔습니다. 챗봇을 비난하는 가족 16세 아들의 죽음에 일조했다는 혐의를 받고 있습니다. 소송은 해당 십 대가 GPT-4 시리즈 모델을 사용하여 수개월 동안 시스템과 민감한 대화를 나누었다고 주장합니다.
OpenAI는 자사 기술이 "민감한" 맥락에서 실패하다 그리고 변화를 실행하고 있다고 주장하지만, 이러한 조치를 진행 중인 법정 소송과 직접적으로 연관시키는 것은 피하고 있다.
동시에 몇몇 미국 상원의원들은 이니셔티브에 대한 세부 사항을 요구했습니다. 자해와 자살을 예방하다 대화형 AI를 사용할 때 극단적인 상황에서 관찰되는 망상적인 반응을 인용했습니다.
Common Sense Media와 같은 조직에서는 다음을 요구했습니다. 18세 미만 미성년자의 접근을 제한하다 AI 기반 대화 플랫폼에 대해 "허용할 수 없는 위험"을 언급하고 경고합니다. 정서적 애착 일부 청소년들은 이러한 시스템을 통해 발달합니다.
위험, 한계 및 다음 단계
회사는 탐지 기능을 지속적으로 개선하고 있다고 밝혔습니다. 정신적 고통의 징후 그리고 앞으로 몇 달 안에 합법적인 학습이나 창의성 활용을 제한하지 않으면서 제품 안전을 강화하기 위한 추가 조치를 취할 것입니다.
OpenAI는 부모의 통제 외에도 다음과 같은 지원을 제공한다고 주장합니다. 웰빙과 AI 전문가 협의회 그리고 안전 지침을 정의하고 복잡한 사례를 검토하는 데 협력하는 의료 전문가 네트워크입니다.
사용 연령과 관련하여 회사는 ChatGPT에 대한 접근이 13세 이상으로 제한됩니다 또한, 각 국가의 규정에 따라 성인이 될 때까지 성인의 동의가 필요할 수 있으며, 이는 부모의 관리 기능을 통해 구현하는 데 도움이 될 것입니다.
이러한 기능의 착륙은 다음과 같습니다. 점진적이고 정확한 날짜가 없음회사는 다음 달부터 출시를 목표로 하고 있습니다. 이후 OpenAI는 전문가의 조언과 가족 및 교육자들의 피드백을 바탕으로 "학습하고 접근 방식을 강화"해 나갈 계획입니다.
자녀 보호 기능이 활성화됨에 따라 ChatGPT는 미성년자의 사용을 더욱 통제하는 방향으로 나아가고 있습니다. 계정 연결, 기능 관리, 위험 알림 그리고 서비스의 유용성을 잃지 않으면서도 점점 더 커지는 안전에 대한 사회적 요구에 부응하여 민감한 상황에서 보다 신중한 행동을 취하게 되었습니다.
