백악관 주도 자율 규제 참여 기업 15개사 이상으로 늘어
조 바이든 미국 대통령이 지난 7월 21일 (현지시간) 백악관에서 인공 지능(AI) 규제 대책을 설명하고 있다. 사진=뉴시스
엔비디아(NVDA), IBM(IBM), 어도비(ADBE) (Adobe), 세일즈포스(CRM), 팔란티어(PLTR) 등 8개 인공지능(AI) 관련 기업이 AI 안전을 위한 자율 규제에 추가로 동참하기로 했다고 백악관이 12일(현지시간) 밝혔다. 백악관은 지난달 21일에 아마존(AMZN), 구글(GOOGL), 메타(META), 마이크로소프트(MSFT)(MS)와 함께 챗GPT를 만든 오픈AI, 앤트로픽, 인플렉션 등 7개 기업이 인공지능 안전을 위한 자율 규제에 참여하기로 했다고 밝혔었다. 이로써 백악관이 제시한 인공지능 안전 조치를 수용한 기업은 15개 사가 넘었다.
미국 정부와 의회는 생성형 AI 채팅 GPT가 지난해 출시된 이후 AI 폐해를 막기 위한 대책을 활발히 논의하고 있다. 미 상원 법사위 소위에서 이날 열린 청문회에는 브래드 스미스 MS 최고경영자(CEO)와 윌리엄 달리 엔비디아 선임 사이언티스트 등이 참석해 증언했다. 또 일론 머스크 테슬라 CEO, 마크 저커버그 메타 CEO, 샘 알트만 오픈AI CEO, 순다르 피차이 구글 CEO 등은 13일 미 의회에서 여야 의원들과 비공개 간담회를 갖는다.
제프 자이언츠 백악관 비서실장은 이날 발표한 성명에서 “(조 바이든) 대통령의 입장이 확고하다”면서 “AI의 이익을 증대하되 매우 신속하게 그 위험을 관리할 것”이라고 밝혔다. 바이든 대통령은 지난달 미 정부가 7개 미국 회사로부터 인공지능 제품을 발매하기 전 안전을 보장하겠다는 자발적 약속을 받았다고 발표했었다. 여기에는 제 3자에 의한 차세대 인공지능 시스템 감독 수용 약속 등이 포함됐다.
AI 자율 규제에 참여하는 기업들은 생체 보안, 사이버 보안과 같은 주요 위험에 대한 외부 전문가의 보안 테스트를 받기로 약속했다. 이 테스트에서는 편견과 차별 등 첨단 인공지능 시스템이 스스로 물리적 통제권을 장악할 가능성도 점검하게 된다. 기업들은 자사 제품의 취약성을 보고해야 하고, 디지털 워터마크를 사용해 실제와 인공지능 생성 딥페이크 이미지, 오디오를 구분하는 방안을 제시해야 한다.
미국 상원 법사위 소속 리처드 블루먼솔(민주) 의원과 조시 홀리(공화) 의원은 AI를 개발할 때 독립적 감독 기관에 이를 등록하도록 하는 내용의 입법을 제안했다. 미 상원은 또 AI에 대한 안전장치 개발 등 규제를 담은 입법 패키지 개발도 추진하고 있다.
미국과 독일, 영국, 프랑스, 일본 등 주요 7개국(G7)이 AI가 준수해야 할 국제적 행위 규범을 만들기로 의견을 모았다. 미 정치 전문지 폴리티코에 따르면 G7 당국자들은 생성형 AI를 비롯한 선진적 형태의 기술을 감독할 구체적 원칙을 만드는데 협력하기로 했다.
G7은 AI 개발 기업에서 자사의 AI 시스템이 사회적 해악을 끼치지 않도록 조처하겠다는 약속을 하는 내용을 이 규범에 담기로 했다. 또 AI 개발 기술이 악의적 세력의 손에 들어가지 않도록 강력한 사이버 보안 체계를 갖추고, 기술이 오용되는 것을 막기 위한 위험관리 체계를 갖춰야 한다는 내용도 들어갈 것으로 보인다고 이 매체가 전했다. G7 당국자들은 10월 초 일본 교토에서 다시 만나 관련 논의를 이어간다.
G7은 이르면 11월에는 각국 정상에 AI 국제 행위 규범 초안을 전달하고, 11월 혹은 12월 화상으로 열릴 예정인 G7 디지털 장관회의에서 이를 확정할 예정이다.
유럽연합(EU)은 올해 연말까지 독자적으로 AI 관련법을 제정하는 방안을 추진 중이다.
국기연 글로벌이코노믹 워싱턴 특파원 kuk@g-enews.com
<저작권자 ⓒ 글로벌이코노믹 무단전재 및 재배포금지>
목록보기
조 바이든 미국 대통령이 지난 7월 21일 (현지시간) 백악관에서 인공 지능(AI) 규제 대책을 설명하고 있다. 사진=뉴시스
엔비디아(NVDA), IBM(IBM), 어도비(ADBE) (Adobe), 세일즈포스(CRM), 팔란티어(PLTR) 등 8개 인공지능(AI) 관련 기업이 AI 안전을 위한 자율 규제에 추가로 동참하기로 했다고 백악관이 12일(현지시간) 밝혔다. 백악관은 지난달 21일에 아마존(AMZN), 구글(GOOGL), 메타(META), 마이크로소프트(MSFT)(MS)와 함께 챗GPT를 만든 오픈AI, 앤트로픽, 인플렉션 등 7개 기업이 인공지능 안전을 위한 자율 규제에 참여하기로 했다고 밝혔었다. 이로써 백악관이 제시한 인공지능 안전 조치를 수용한 기업은 15개 사가 넘었다.
미국 정부와 의회는 생성형 AI 채팅 GPT가 지난해 출시된 이후 AI 폐해를 막기 위한 대책을 활발히 논의하고 있다. 미 상원 법사위 소위에서 이날 열린 청문회에는 브래드 스미스 MS 최고경영자(CEO)와 윌리엄 달리 엔비디아 선임 사이언티스트 등이 참석해 증언했다. 또 일론 머스크 테슬라 CEO, 마크 저커버그 메타 CEO, 샘 알트만 오픈AI CEO, 순다르 피차이 구글 CEO 등은 13일 미 의회에서 여야 의원들과 비공개 간담회를 갖는다.
제프 자이언츠 백악관 비서실장은 이날 발표한 성명에서 “(조 바이든) 대통령의 입장이 확고하다”면서 “AI의 이익을 증대하되 매우 신속하게 그 위험을 관리할 것”이라고 밝혔다. 바이든 대통령은 지난달 미 정부가 7개 미국 회사로부터 인공지능 제품을 발매하기 전 안전을 보장하겠다는 자발적 약속을 받았다고 발표했었다. 여기에는 제 3자에 의한 차세대 인공지능 시스템 감독 수용 약속 등이 포함됐다.
AI 자율 규제에 참여하는 기업들은 생체 보안, 사이버 보안과 같은 주요 위험에 대한 외부 전문가의 보안 테스트를 받기로 약속했다. 이 테스트에서는 편견과 차별 등 첨단 인공지능 시스템이 스스로 물리적 통제권을 장악할 가능성도 점검하게 된다. 기업들은 자사 제품의 취약성을 보고해야 하고, 디지털 워터마크를 사용해 실제와 인공지능 생성 딥페이크 이미지, 오디오를 구분하는 방안을 제시해야 한다.
미국 상원 법사위 소속 리처드 블루먼솔(민주) 의원과 조시 홀리(공화) 의원은 AI를 개발할 때 독립적 감독 기관에 이를 등록하도록 하는 내용의 입법을 제안했다. 미 상원은 또 AI에 대한 안전장치 개발 등 규제를 담은 입법 패키지 개발도 추진하고 있다.
미국과 독일, 영국, 프랑스, 일본 등 주요 7개국(G7)이 AI가 준수해야 할 국제적 행위 규범을 만들기로 의견을 모았다. 미 정치 전문지 폴리티코에 따르면 G7 당국자들은 생성형 AI를 비롯한 선진적 형태의 기술을 감독할 구체적 원칙을 만드는데 협력하기로 했다.
G7은 AI 개발 기업에서 자사의 AI 시스템이 사회적 해악을 끼치지 않도록 조처하겠다는 약속을 하는 내용을 이 규범에 담기로 했다. 또 AI 개발 기술이 악의적 세력의 손에 들어가지 않도록 강력한 사이버 보안 체계를 갖추고, 기술이 오용되는 것을 막기 위한 위험관리 체계를 갖춰야 한다는 내용도 들어갈 것으로 보인다고 이 매체가 전했다. G7 당국자들은 10월 초 일본 교토에서 다시 만나 관련 논의를 이어간다.
G7은 이르면 11월에는 각국 정상에 AI 국제 행위 규범 초안을 전달하고, 11월 혹은 12월 화상으로 열릴 예정인 G7 디지털 장관회의에서 이를 확정할 예정이다.
유럽연합(EU)은 올해 연말까지 독자적으로 AI 관련법을 제정하는 방안을 추진 중이다.
국기연 글로벌이코노믹 워싱턴 특파원 kuk@g-enews.com
<저작권자 ⓒ 글로벌이코노믹 무단전재 및 재배포금지>
