최근 생성형 인공지능인 챗GPT가 산업 전반으로 확대되면서 AI에 대한 전문가들의 부정적인 시선 또한 커지고 있다.

AI 기술의 글로벌 인기에 빅테크 기업들은 이에 대응하기 위한 자체 인공지능 개발에 착수했으며, 생성형 AI 종목에 집중투자 하는 펀드가 생기는 등 플랫폼, 반도체, 빅데이터, 마케팅할 것 없이 다양한 영역에 AI가 적용되고 있다.

새로운 산업이 떠오름에 따라 부작용도 생겼다. AI를 활용한 지능적이고 교묘한 사기 범죄들이 등장하기 시작한 것. 인간을 그대로 모방한 AI 보이스 피싱이나 챗봇을 이용한 텍스트 사기 등 AI의 규제 기관의 필요성이 대두되고 있다.

‘AI 대부’ 제프리 힌튼 박사는 “곧 챗봇이 우리보다 더 똑똑해질 것”이라고 예측하며 자신이 참여한 AI 개발의 결과에 대한 후회를 표명했다. 일론머스크를 비롯한 세계적인 AI 전문가들도 오픈 AI에 GPT-4보다 발전한 AI 개발과 학습을 최소 6개월 동안 중단할 것을 요구하는 서명 운동을 진행했다.

점점 수위가 높아지는 전문가들의 경고에 미국 국회는 규제 방안을 마련 중에 있다. AI, 과연 이대로 괜찮을까?

스티브 워즈니악 “AI 사기치기 쉽게 만들 것”

애플 공동창업자 스티브 워즈니악이 최근 영국 BBC방송과 진행한 인터뷰에서 인공지능에 대해 “그럴듯해 보이는 사기를 더 쉽게 만들 것”이라고 우려했다.

미국의 컴퓨터 과학자 워즈니악은 1976년 스티브 잡스와 함께 애플을 공동 창업했다. 약 10년 뒤 애플을 떠난 후 2021년 민간 우주 기업 ‘프라이버티어 스페이스’를 창업하기도 했다.

워즈니악은 AI에 대해 매우 지능적이어서 누군가를 속이고 싶어 하는 나쁜 선수들에게 노출되어 있다고 설명하며, 챗GPT와 같은 도구가 매우 지능적인 텍스트를 생성해 사기꾼들을 훨씬 더 그럴듯하게 만들 것이라고 설명했다.

워즈니악은 AI 기술을 개발하는 빅테크 기업에 대해 “이들은 무엇이든 할 수 있다고 생각하는 것 같다”고 비판하며 “이런 기업에 더 큰 책임을 부과해야 한다, 그러나 규제당국이 이를 제대로 할 수 있을지에 대해 회의적이다”고 말했다. 이어 개인 사용자에게도 책임을 강조했다. 그는 “AI가 생성해 대중에게 공개되는 모든 것에 대한 책임은 이를 게시하는 사람에게 있다고 생각한다”고 말하며 AI를 이용한 사기에 대해 대처할 수 있도록 교육을 받아야 한다고 지적했다.

AI 대부 힌튼박사 “‘킬러로봇’이 현실 되는 날 두려워”

신뢰받는 인공지능(AI) 분야의 대표적 인물인 제프리 힌튼 박사가 최근 10년간 일한 구글에 사직서를 제출했다.

힌튼 박사는 인공지능의 위험성을 이유로 구글과의 이별을 선택한 것 밝혔다. 긴 시간 동안 소속된 조직을 떠나, AI가 인류에게 발생할 수 있는 부정적인 영향에 대해 자유롭게 경고하기 위함이다. 현재 AI 분야에서 구글과 마이크로소프트 간의 경쟁에 대해 언급하며 AI 연구에 대한 국제적인 규제가 도입돼야 한다고 주장했다.

그는 제자 2명과 함께 창업한 'DNN리서치'에서 컴퓨터가 수천 장의 사진을 분석하고 스스로 사물을 인식하는 기술을 선보였다. 이 기술은 구글이 4천400만 달러에 인수한 것으로 알려져 있으며, 현재 많은 화제를 모으는 챗GPT의 개발에 기여한 것으로 평가받고 있다.

힌튼 박사는 AI 기술이 적용된 '킬러 로봇'이 현실이 되는 날을 우려하며, 연구자들이 AI 연구의 위험성에 대해 함께 목소리를 내고 자체적인 규제를 시행하는 것이 중요하다고 강조했다.

챗GPT 창시자 샘 올트먼 “AI, 두렵고 오싹하다”

오픈AI의 샘 올트먼 최고경영자(CEO)는 AI 기술이 앞으로 사회에 미칠 부정적인 영향에 대해 우려했다.

3월에 미국 ABC 방송과의 인터뷰에서 올트먼은 AI 기술이 노동력과 허위정보의 확산 등에 부정적인 영향을 미칠 수 있다는 점에 대해 "약간 무섭다"고 언급했다. AI 기술은 대규모 허위 정보의 유포에 악용될 수 있으며, 컴퓨터 코드를 이해하는 능력을 갖추고 있는 만큼 사이버 공격에도 악용될 수 있다는 추측이다.

GPT-4가 공개되면서 최근 테크 업계의 화두인 ‘AI 개발 일시 중지 요구’에 대해서도 언급했다. 4월에 열린 MIT 행사에서 전문가들이 "GPT-4 이상의 최첨단 AI 개발을 6개월 동안 중단해야 한다"고 주장했을 때, 올트먼은 아직 GPT-5를 훈련시키고 있지 않으며, 당분간 그러한 계획도 없다고 밝혔다.

한편, 최근 공개된 GPT-4의 안전 문제에 대해서는 올트먼은 "우리는 GPT-4와 다른 여러 종류의 안전 문제에 대해 작업하고 있다"고 밝혔다.

일론 머스크 “AI에 대한 ‘선의의 의존’도 인류 문명에 위협”

테슬라의 최고경영자 일론 머스크가 최근 인공지능(AI)에 대한 선의적인 의존도가 인류 문명에 위협이 될 수 있다고 경고했다.

외신에 따르면 머스크는 트위터를 통해 "AI와 자동화에 대한 선의적인 의존이 기계의 작동 방법을 잊어버리는 정도까지 진행된다면 인류 문명에 위험이 될 수 있다"고 밝혔다. 이러한 언급은 AI에 의존하여 단순한 작업을 수행하는 과정에서 시간이 지나면서 기계의 운용 방법을 잊어버리는 환경이 조성될 수 있다는 것을 의미한다.

머스크는 이 주장 이후 에드워드 모건 포스터의 1909년 소설 ‘기계가 멈추다’를 추천했다. 이 소설은 인류가 지나치게 기계에 의존하고 종속되는 미래를 예측한 작품이다.

머스크는 수년 동안 인공지능에 대해 강력한 경고를 하면서 IT 업계 지도자들이 이 분야에 대해 제한적인 이해를 하고 있다고 일축해왔다.

무스타파 술레이만 “AI가 패배자 양산할 것”

생성형 인공지능(AI) 기술의 발전이 사무직 근로자를 위협하고 향후 10년간 패배자를 양산해낼 것이란 경고가 나왔다.

인공지능 바둑 프로그램 알파고를 개발한 구글 딥마인드의 공동 창업자 무스타파 술레이만이 미국 샌프란시스코에서 열린 행사에서 이러한 주장을 내놓았다. 술레이만은 “AI 발전은 화이트칼라 노동자들을 위협할 것”이라며 “향후 5~10년 내 심각한 수준의 패배자들을 낳을 것”이라고 말했다.

또한, 술레이만은 AI 프로그램에게 스스로 발전하는 방법을 학습시키지 말아야 한다고 경고했다. 그는 AI에게 자율성을 부여하는 것은 우리가 넘어서서는 안 되는 필수적인 경계라고 강조했다.

슬레이만은 딥마인드를 창업한 후 2014년에 구글에 인수되어 함께 일하다가 작년에 퇴사했다. 이후 그는 AI 회사 인플렉션AI를 공동 창업하여 개인적인 조언을 제공하고, 인간과의 상호작용에 초점을 맞춘 챗봇 파이(Pi)를 개발했다.