오픈AI의 안전성 논란 가속화

오픈AI의 AI 안전성을 검토하던 '슈퍼얼라인먼트팀'이 해체되면서 안전성에 대한 우려가 지속되고 있습니다. 슈퍼얼라인먼트팀 책임자였던 얀 리이크와 공동 창업자 일리야 수츠케바가 오픈AI를 떠났습니다. 이들은 AI 안전성에 대한 목소리를 높였던 인물들입니다.

 

 

오픈AI는 슈퍼얼라인먼트팀 대신 '안전보안위원회'를 신설했지만, 일각에서는 내부 경영진으로 구성된 위원회가 실질적인 역할을 하기 어려울 것이라는 우려가 제기되고 있습니다. 리이크는 "안전 문화와 프로세스가 제품의 뒷자리를 차지했다"며 오픈AI를 비판했고, 그레첸 크루거도 오픈AI의 의사결정 과정에서 책임과 투명성이 부족하다고 지적했습니다.

 

오픈AI의 상업화 전략 가속화

오픈AI는 글로벌 회계업체 PwC와 챗GPT 엔터프라이즈 사용 및 재판매 계약을 체결했습니다. 이를 통해 PwC 직원과 고객들이 최신 모델 GPT-4를 이용할 수 있게 되었습니다.

이는 오픈AI가 AI 기술을 수익화하는 방법을 확대하는 중요한 발걸음이며, PwC는 최초의 챗GPT 리셀러가 되었습니다.

분석가들은 이번 계약이 오픈AI의 "비영리단체에서 상업적 단체로의 전환"을 의미한다고 평가했습니다.

오픈AI는 지난해 2월 챗GPT 플러스라는 월 30달러의 유료 버전을 출시했고, 지난해 8월 기업을 대상으로 보안이 강화된 챗GPT 엔터프라이즈를 출시했습니다.

 

 

앤스로픽의 AI 안전성 연구

리이크는 경쟁사인 앤스로픽으로 합류했습니다. 앤스로픽은 AI의 안전성에 더욱 중점을 둔 회사로 알려져 있습니다.

리이크는 앤스로픽에서 그간 오픈AI에서 작업하던 AI 안전성 연구를 이어갈 것이라고 밝혔습니다.

아직 AI의 안전성을 제어하는 모델은 존재하지 않지만, 오픈AI와 앤스로픽 등의 기업에서는 향후 구축할 경우 어떻게 제어할 수 있는지 연구를 진행하고 있습니다.

 

종합적으로, 오픈AI는 챗GPT의 상업화에 주력하면서 AI 안전성에 대한 우려가 지속되고 있습니다. 이에 따라 오픈AI 내부에서도 안전성 문제를 제기하던 인사들이 줄줄이 퇴사하고 있습니다. 한편 경쟁사 앤스로픽은 AI 안전성 연구에 더욱 집중하고 있는 것으로 보입니다.

이번 사례는 AI 기업들이 기술 개발과 상업화에 집중하면서 안전성과 윤리성을 소홀히 하는 문제점을 보여줍니다. 향후 AI 기술의 발전과 활용을 위해서는 기업들의 책임감 있는 행동과 정부의 적절한 규제가 필요할 것으로 보입니다.

 

프리미엄 차량 선택, 고민 바꾼 구매자들 (tistory.com)

프리미엄 차량 선택, 고민 바꾼 구매자들