OpenAI는 현재 평판을 높이기 위한 노력의 일환으로 GPT-4의 후계자를 양성하고 있습니다. 또한 안전 문제를 해결하기 위해 CEO 샘 알트먼과 3명의 이사회 이사가 이끄는 안전 및 보안 위원회를 설립하고 있습니다.
최근 블로그 게시물에서 OpenAI는 인공 일반 지능(AGI)으로의 발전을 목표로 차세대 프론티어 모델에 대한 훈련을 시작한다고 발표했습니다. 그러나 GPT-4 후속 모델의 출시일과 기능에 관한 자세한 내용은 아직 공개되지 않았습니다.
OpenAI의 안전 문화 및 의사 결정에 대한 조사
제너레이티브 AI의 선두주자임에도 불구하고 OpenAI는 윤리적 조사를 받아왔습니다. 전직 연구원 얀 라이크와 그레첸 크루거는 회사가 안전 문화와 프로세스를 무시했다는 의혹을 제기하며 의사 결정, 책임, 투명성 개선의 필요성을 강조했습니다.
"OpenAI는 최근 차세대 프론티어 모델을 훈련하기 시작했으며, 그 결과물이 인공 일반 지능(AGI)으로 가는 길에 한 단계 더 높은 수준의 역량을 제공할 것으로 기대합니다."
OpenAI의 비판에 대한 대응과 안전에 대한 집중
최근 유럽연합(EU)에서 ChatGPT의 정확성에 대한 비판이 제기되면서 OpenAI의 어려움이 가중되고 있습니다. 게다가 배우 스칼렛 요한슨이 자신의 목소리를 무단으로 사용했다며 회사를 고발하면서 문제가 더욱 복잡해졌습니다.
OpenAI는 이제 곧 출시될 AI 프로그램의 핵심 판매 포인트로 안전을 내세우고 있습니다. 책임감 있는 AI 개발과 규제 준수를 위한 노력을 보여줄 계획입니다.
주요 이사 및 경영진으로 구성된 안전 및 보안 위원회가 새로 구성되며, 향후 3개월 동안 안전 프로세스를 평가하고 개선할 예정입니다. 이 이니셔티브는 이달 초 OpenAI의 안전팀이 해체된 데 따른 것입니다.
OpenAI는 안전 관행에 대한 면밀한 조사를 받고 있는 가운데 GPT-4의 후속작을 개발하고 있습니다. 이 회사는 AI 개발에서 안전의 중요성을 강조하며 이러한 우려를 해결하기 위한 위원회를 설립했습니다.