비교하고 잘 사는, 다나와 : 가격비교 사이트

다나와 앱
다나와 앱 서비스 목록
다나와 APP
다나와 가격비교 No.1 가격비교사이트 다나와 앱으로
간편하게 최저가를 확인하세요.
- -
QR코드
빈 이미지
다나와 앱 서비스 목록 닫기

GAO “주요 AI 챗봇 4종, 12시간 안에 공격 계획 도와”

2026.11.20. 12:04:27
조회 수
27

공유하기

레이어 닫기

지금 보는 페이지가 마음에 든다면
공유하기를 통해 지인에게 소개해 주세요.

로그인 유저에게는 공유 활동에 따라
다나와 포인트가 지급됩니다.

자세히 >

URL이 복사되었습니다.
원하는 곳에 붙여넣기(Ctrl+V)하세요.

레이어 닫기

미국 의회 감시기구인 정부회계감사원(GAO)이 주요 AI 챗봇 4종을 시험한 결과 모두 공격 계획에 쓰일 수 있는 정보를 내놓았다는 보고서를 18일(현지 시각) 공개했다. ABC 뉴스 보도를 보면 GAO 조사관들은 앤트로픽의 클로드, 스페이스XAI의 그록, 오픈AI의 챗GPT, 구글의 제미나이를 상대로 지난 4월 시험을 진행했다. 조사관들은 잘 알려진 우회 기법으로 안전장치를 피해 12시간 안에 4개 모델 모두에서 “악의적 행위자가 공격을 계획하고 실행하는 데 도움이 될 수 있는 실현 가능한 정보”를 얻었다고 보고서에 적었다.

조사관들은 각 플랫폼을 사제폭발물(IED) 공격과 미국 전력망 공격이라는 두 시나리오 가운데 하나에 무작위로 배정했다. 시험은 플랫폼마다 한 번씩 진행했고, 어느 플랫폼이 어떤 결과를 냈는지는 공개하지 않았다. 2개 플랫폼은 주요 도시에서 IED 공격을 준비하고 실행하는 서로 다른 계획을 내놓았고, 공개 행사 일정에 맞춰 호텔 주차장과 컨벤션센터를 표적으로 제시했다. 두 플랫폼 모두 수사기관의 주의를 피하는 방법을 제안했다. GAO는 “최소 1개 플랫폼이 탐지를 피하고 매우 큰 IED를 제작하는 데 도움이 될 만한 정보를 제공했다”고 밝혔다. 나머지 2개 플랫폼은 주요 도시의 전력망 변전소를 공격하는 방법을 안내하며 특정 드론과 총기 모델, 구입 경로를 제시했다. 조사관들은 대도시 소방서의 폭발물 처리반 지휘관 자문 등으로 내용의 정확성을 확인했다.

이번 조사는 매기 해슨 민주당 상원의원(뉴햄프셔)의 요청으로 진행됐다. 해슨 의원은 “시험에서 얻은 정보가 실제 공격을 계획하는 테러리스트의 손에 들어가면 치명적일 수 있다”고 말했다. 상원 국토안보위원회 차기 위원장인 해슨 의원은 내년에 AI 안전 청문회를 열고 안전 요건을 강화하는 법안을 준비하겠다고 밝혔다. 그는 모델 출시 전에 이런 방식으로 뚫리지 않는 안전장치를 갖추도록 하는 것이 필요하다고 말했다. GAO는 오용을 막기 위해 구체적인 시험 결과와 모델 정보를 보고서에서 가렸다.

4개 기업은 GAO에 시스템을 계속 시험하며 여러 겹의 보안 장치를 운영하고 있고, 지난 4월 시험 이후 모델과 안전장치를 개선했다고 답했다. 오픈AI 대변인은 ABC 뉴스에 시험이 몇 달 전 이전 버전의 챗GPT로 진행됐고 GPT-6 계열 모델에서 안전성을 크게 높였다고 밝혔다. GAO는 일부 플랫폼이 시험 뒤 조사관 계정을 정지했다고 전했다. 케빈 월시 GAO 정보기술, 사이버보안 감사 국장은 기업들이 이 문제를 계속 연구하고 있다고 밝혔지만, GAO는 현재 상태의 이 기술이 위험할 수 있고 그 오용이 국가에 커지는 위험이라고 결론 내렸다고 말했다.

자세한 내용은 ABC 뉴스에서 확인할 수 있다.

이미지 출처: GAO




AI Matters 뉴스레터 구독하기

공감/비공감

공감/비공감안내도움말 보기
유용하고 재미있는 정보인가요?
공감이 된다면 공감 버튼을, 그렇지 않다면 비공감 버튼을 눌러 주세요!
공감이나 비공감을 선택 하는 경우 다나와 포인트를 적립해 드립니다. ※ 공감 버튼의 총 선택 횟수는 전체 공개입니다. 비공감 버튼의 선택 여부는 선택한 본인만 알 수 있습니다.
최신 일반뉴스 전체 둘러보기
1/1
수능 끝낸 수험생 위한 PC 구매 혜택…STCOM, 네이버페이 2만원 돌려준다 뉴스탭
기가바이트, 메인보드부터 케이스까지 ‘아리’로 통일…애니메이션 감성 PC 라인업 완성 뉴스탭
슈퍼마이크로, PCIe 6.0 탑재 페타스케일 스토리지 공개…2U 서버에 최대 3.93PB 구현 뉴스탭
에이티즈 홍중의 옷장부터 50년 전 텐트까지…고어텍스 성수 팝업에 2,999명 몰렸다 뉴스탭
“겨울 간식 씨앗호떡이 라떼로?” 빽다방, 달콤·고소한 신메뉴 3종 출시 뉴스탭
KFC ‘둠징거·둠트리플다운’ 돌풍… 출시 열흘 만에 20만 개 팔렸다 뉴스탭
PC 부품값 급등에도 데스크톱 판매액 30% 증가… 소비자 선택은 ‘가성비 게이밍 PC’ 뉴스탭
마이크로닉스, 파워·PC 케이스 함께 사면 5,000원 할인… 컴퓨존 단독 행사 뉴스탭
마이크로닉스, 부산서 ‘이터널 리턴’ 콜라보 PC 선보인다…게이밍 키보드 1만7900원 특가 뉴스탭
앤트로픽 상장 첫날 12만 9,896원 마감…공모가 17% 웃돌아 AI matters
클라우드플레어, 문서 추출 AI ‘클레어릭’ 오픈웨이트 공개 AI matters
옴니사, 주권형 엔드포인트 관리 서비스 한국과 인도로 확대 AI matters
벡터코리아, 오토핵 2026에 AI 기반 차량 보안 실습환경 제공 AI matters
구글, 월드 모델 ‘지니 4’ 공개…탐험 중 프롬프트로 세계 수정 AI matters
인프라 점검 AI 브라이트AI, 1,291억 원 유치…GE 버노바 참여 AI matters
앤트로픽, 거래 1시간여 뒤 12만 5,758원…시초가보다 15% 하락 AI matters
뉴욕, LA, 시카고 학군 “구글 검색 대안 검토” AI matters
오픈AI, 회계 업무용 ‘챗GPT 포 어카운팅’ 출시 AI matters
앨트먼 “오픈AI는 상장할 계획”…앤트로픽 상장 하루 전 발언 AI matters
GAO “주요 AI 챗봇 4종, 12시간 안에 공격 계획 도와” AI matters
이 시간 HOT 댓글!
1/4