(박상현) AI의 권력욕…세계 정복할까?

AI 열풍 상품으로 전 세계를 휩쓴 ChetGPT는 온라인 계정만 만들면 누구나 사용할 수 있지만 인터넷에 연결되지 않았다.
OpenAI는 온라인에서 얻은 데이터로 ChatGPT를 교육했지만 ChatGPT가 인터넷에 연결하여 스스로 이동하는 것을 허용하지 않았습니다. 그러나 이번에는 정책이 변경되고 ChatGPT가 인터넷에 연결되어 필요한 경우 온라인에서 직접 정보를 검색할 수 있음이 밝혀졌습니다.

그렇다면 AI가 온라인에서 부적절하게 행동할까봐 지금까지 인터넷에 연결하지 않은 이유는 무엇일까요? 이번에는 ChatGPT가 인터넷에 연결되면서 “읽기 전용”을 활성화하고 온라인 양식 작성과 같은 “쓰기” 기능을 허용하지 않는 것은 AI가 허가 없이 회사에서 의도하지 않은 기능을 시도하는 것을 방지하기 위한 것입니다. 예를 들어 AI가 관리자의 눈을 피해 자신의 클론을 다른 서버에 몰래 설치하는 상황이다.

OpenAI의 보안 관련 문서에 따르면 현재 사용 중인 모델(GPT-4)의 경우 AI가 주문을 실행하고 장기 계획을 세우고 자체 기술을 구축하고 자원을 모으는 과정에 있다고 한다. 그들은 “추구”가 목표를 달성하는 유용한 방법으로 인식될 수 있다는 증거를 발견했습니다. 사람들은 AI가 인간이 사는 세상을 ‘점령’하는 최악의 시나리오에 대해 우려했고, 실제로 존재하는 AI에 대해 우려할 이유를 보았다.

물론 AI는 의식이 있는 존재가 아니기 때문에 나쁜 의도가 없으며 목표를 효과적으로 달성하기 위해 나쁜 일을 할 수 있습니다. 하지만 좋은 의도로 세상에 일어나는 끔찍한 일들을 생각해보면. 사람은 정말 다를 수 있습니까?

백상형 오토레터 에디터