안토니오 구테흐스(Antonio Guterres) 유엔 사무총장이 6월 12일 국제원자력기구(IAEA)와 같은 국제 AI 감시 기구를 만들자는 일부 인공지능(AI) 전문가들의 제안을 지지했다.

로이터통신에 따르면, 구테흐스 총장은 이날 "최신 형태의 인공지능인 생성 AI에 대한 경종이 울리고 있다. 그 경고는 그것을 설계한 개발자들로부터 가장 크게 들린다. 우리는 이러한 경고를 심각하게 받아들여야 한다"고 강조했다.

이어 그는 "오늘날 국제원자력기구에서 영감을 받은 인공지능 기관을 만들 수 있다는 생각에 찬성한다. 유엔 사무국이 아니라 회원국만이 만들 수 있다"고 덧붙였다.

한편, 이날 구테흐스 총장은 UN은 AI 거버넌스 체계를 정기적으로 검토하고 인권, 법치 등에 부합하는 방법에 대한 권고안을 제시하기 위해 연말까지 고위급 AI 자문 기구에서 작업을 시작할 계획이며, 앞으로 며칠 내에 AI 전문가와 유엔 기관의 수석 과학자들로 구성된 과학 자문위원회를 구성하고 임명할 계획이라고 밝혔다.

또한 그는 영국에서의 정상회담 계획을 지지하지만 "심각한 작업"이 선행되어야 한다고 말했습니다. 그는 앞으로 AI 전문가와 UN 기관의 수석 과학자로 구성된 과학 자문위원회를 임명할 계획이라고 말했다.

비엔나에 본부를 둔 IAEA는 1957년 처음 창설됐다. 이 단체는 핵확산금지조약(NPT)의 위반 가능성을 감시하면서 핵 기술의 안전하고 평화로운 사용을 촉진하는 역할을 한다. 현재는 전세계의 176개국이 회원으로 속해 있다.

Q. 챗GPT, 이 기사에 대한 너의 의견이 알고 싶어. 국제 AI 감시기구가 꼭 필요할까? 만약 만들어 졌을 때 발생할 수 있는 장점과 우려할 점은 뭐가 있을까?

<챗GPT 답변> 

AI 언어 모델로서 개인적인 의견이나 신념은 없습니다. 그러나 귀하가 공유한 기사에 대한 일부 분석을 제공할 수 있습니다.

이 기사는 국제원자력기구(IAEA)와 유사한 국제 AI 모니터링 기구를 설립하자는 제안에 대해 논의합니다. 기사에 따르면 안토니오 구테흐스 유엔 사무총장은 이 아이디어에 대한 지지를 표명하고 AI 개발자들의 경고를 진지하게 받아들일 필요성을 강조했다. 또 인공지능 고위급 자문기구를 만들고 인공지능 전문가와 유엔 산하기관의 선임 과학자로 구성된 과학자문위원회를 임명할 계획도 언급했다.

인공 지능을 모니터링하기 위한 국제 조직에 대한 제안은 고려할 가치가 있는 몇 가지 사항을 제기합니다. 다음은 몇 가지 잠재적인 이점과 고려 사항입니다.

• 글로벌 협력: AI는 사회, 경제 및 보안에 영향을 미치며 빠르게 발전하는 기술입니다. 국제기구를 설립하면 AI와 관련된 문제를 해결하기 위해 국가 간 글로벌 협력, 정보 공유 및 조정을 촉진할 수 있습니다.

• 윤리적 문제: AI는 프라이버시, 편견, 책임과 같은 윤리적 문제를 제기합니다. 국제 기구는 AI 기술의 개발 및 배포를 위한 윤리적 프레임워크, 지침 및 표준을 수립하는 데 도움을 줄 수 있습니다.

• 정책 조화: AI 규제 및 정책은 국가마다 다릅니다. 국제 조직은 AI와 관련된 정책, 규정 및 법적 프레임워크의 조화를 촉진하여 일관성을 촉진하고 잠재적인 충돌을 줄일 수 있습니다.

• 모니터링 및 투명성: AI 기술 및 애플리케이션 모니터링은 위험을 식별하고 오용을 방지하며 국제 규범을 준수하는 데 중요합니다. 국제 조직은 AI 개발을 모니터링하고 위험을 평가하며 투명성을 촉진하는 역할을 할 수 있습니다.

• 연구 및 개발에서의 국제적 협력: 국제 조직은 AI 연구 및 개발에서의 협력을 촉진하여 국가 간 지식, 전문성 및 자원의 교환을 촉진할 수 있습니다.

한편, 염두에 두어야 할 몇 가지 잠재적인 문제와 고려 사항도 있습니다.

• 주권 및 국가 이익: 국가마다 AI 규제에 대한 관점이 다를 수 있으며 국가 이익을 우선시할 수 있습니다. 국제 협력의 필요성과 국가 주권의 균형을 맞추는 것이 어려울 수 있습니다.

• 구현 및 집행: AI 모니터링을 위한 효과적인 국제 조직을 설립하려면 명확한 권한, 자금 지원 및 집행 메커니즘이 필요합니다. 조직의 효율성을 보장하고 관료적 장애물을 피하는 것이 필수적입니다.

• 급속한 기술 발전: AI는 빠르게 진화하고 있으며 새로운 애플리케이션과 위험이 끊임없이 등장합니다. 국제 조직은 진화하는 AI 환경에 보조를 맞추기 위해 민첩하고 적응력이 있어야 합니다.

• 대표성 및 포괄성: 국제 조직에서 다양한 대표성을 보장하는 것은 다양한 국가, 지역 및 이해관계자의 관점과 우려 사항을 해결하는 데 중요합니다.

요약하면 국제 AI 모니터링 조직에 대한 제안에는 잠재적인 이점과 문제가 모두 있습니다. 이는 AI 영역에서 글로벌 협력, 윤리적 고려 및 정책 조화에 대한 필요성에 대한 인식을 반영합니다. 그러나 그러한 조직을 설립하려면 신중한 계획, 국제적 합의 및 빠르게 진화하는 AI 환경에 대처하기 위한 지속적인 적응이 필요합니다.