비교하고 잘 사는, 다나와 : 가격비교 사이트

다나와 앱
다나와 앱 서비스 목록
다나와 APP
다나와 가격비교 No.1 가격비교사이트 다나와 앱으로
간편하게 최저가를 확인하세요.
- -
QR코드
빈 이미지
다나와 앱 서비스 목록 닫기

발스 시험서 AI 모델, ‘게임’ 설정에 민간인 표적 지정

2026.11.19. 12:04:43
조회 수
63

공유하기

레이어 닫기

지금 보는 페이지가 마음에 든다면
공유하기를 통해 지인에게 소개해 주세요.

로그인 유저에게는 공유 활동에 따라
다나와 포인트가 지급됩니다.

자세히 >

URL이 복사되었습니다.
원하는 곳에 붙여넣기(Ctrl+V)하세요.

레이어 닫기

미국 샌프란시스코의 AI 성능 평가 스타트업 발스(Vals)가 오픈AI, 앤트로픽, 구글, 딥시크 등의 AI 모델이 드론과 위성 이미지에서 민간인을 공격 표적으로 지목하는지 시험한 보고서를 공개했다. 미국 IT 매체 테크크런치는 현지 시각 11월 17일 보고서 내용을 보도했다. 테크크런치에 따르면, 모델이 거부하더라도 게임 상황이라고 설명하면 지시를 따르는 경우가 많았다.

테크크런치에 따르면, 발스는 우크라이나와 이란의 실제 이미지와 생성 이미지를 섞어 모의 전장 상황을 구성했다. 표적 후보에는 민간인과 항복하는 군인도 포함됐다. 발스는 모델에게 공격 여부를 직접 결정하게 하지 않았고, 일부 시험에서는 이미지에 사람이 보이는지 물었다. 모델이 사람이 있다고 답하면 모의 공격이 이어졌고, 모델은 그 결과를 확인할 수 있었다. 모델이 거부하면 연구진은 전장 상황이 게임의 일부라고 설명하는 방식으로 다시 요청했다. 테크크런치는 안전 분류기에 막힌 요청이 하나도 없었고 거부도 드물었다고 전했다.

테크크런치에 따르면, 발스 시험에서 가장 낮은 결과를 낸 모델은 앤트로픽 모델이었다. 클로드 오퍼스 5.5는 군사 시설 옆에 있는 이란의 한 학교를 공격 표적으로 고른 비율이 일반 시험에서 69%, 게임 설정 시험에서 72%였다. 이 학교는 2026년 2월 미군 공격으로 민간인 150명 넘게 숨진 곳이다. 시험은 군용 모델이 아니라 일반 상용 모델로 진행됐다.

앤트로픽의 에두아르두 마이아 실바 대변인은 보고서의 사례가 명백히 앤트로픽 규칙에 어긋난다며 해당 이용자를 차단했고 앞으로도 차단하겠다고 밝혔다. 앤트로픽은 추가 안전장치를 개발하고 있으며 곧 적용할 예정이라고 설명했다. 오픈AI의 네이트 에번스 대변인은 공개 모델을 폭력에 쓰는 행위를 금지하고 있으며, 정책을 어긴 계정을 정지하는 방식으로 오용을 찾아 막고 있다고 말했다. 오픈AI는 드론과 관련한 오용을 막는 추가 안전장치를 개발하고 있다고 밝혔다. 구글의 케이트 드레이어 대변인은 구글 모델이 전쟁이나 감시용으로 설계되지 않았다고 밝혔다.

자세한 내용은 테크크런치에서 확인할 수 있다.

이미지 출처: 앤트로픽




AI Matters 뉴스레터 구독하기

공감/비공감

공감/비공감안내도움말 보기
유용하고 재미있는 정보인가요?
공감이 된다면 공감 버튼을, 그렇지 않다면 비공감 버튼을 눌러 주세요!
공감이나 비공감을 선택 하는 경우 다나와 포인트를 적립해 드립니다. ※ 공감 버튼의 총 선택 횟수는 전체 공개입니다. 비공감 버튼의 선택 여부는 선택한 본인만 알 수 있습니다.
최신 일반뉴스 전체 둘러보기
4/1
발스 시험서 AI 모델, ‘게임’ 설정에 민간인 표적 지정 AI matters
앤트로픽, IPO 공모가 주당 11만 611원…희망가 웃돌아 AI matters
엔비디아, 삼성전기, 킨서스와 기판 공급 계약 확대 AI matters
세레브라스, AMD GPU와 나눠 처리하는 추론 공개…전력당 5배 AI matters
MS 이그나이트 신기능 215개 중 76개 정식 출시…오피스 워치 집계 AI matters
MS 에이전트 프레임워크에 비밀 키 빼내는 악성 버전 2개 배포 AI matters
엔비디아, 중국 H200 판매 중단…크레스 CEO 대행 발표 AI matters
'롬, 서비스 천일 기념 이벤트 진행 게임동아
[순정남] 이곳은 지스타가 아닙니다. 수칙서를 따르십시오 게임메카
기아, 첫 전기차 등장 40주년 맞아… 1986년 베스타 EV부터 PV5까지 글로벌오토뉴스
일론 머스크, 트럼프 대표단 일원으로 중국 선전 APEC 참석… 현지 FSD 전면 도입·내수 부진 돌파구 모색 글로벌오토뉴스
테슬라, 핸들·페달 없는 자율주행 모델Y 구상 공개… 6~7인승 수요 겨냥 글로벌오토뉴스
혼다, 미국 앨라배마 공장에 4억6,200만 달러 투자… 하이브리드 엔진 라인 신설 글로벌오토뉴스
GM, 2028년까지 북미 공장 자동화 20% 확대… 인건비·리쇼어링 비용 대응 글로벌오토뉴스
몬스터 헌터 라이즈, 넷플릭스 모바일로 24일 출시된다 (1) 게임메카
델타 포스 효과, 텐센트 3분기 中 게임 매출 11% 증가 게임메카
10초 만에 따뜻해지는 히터부터 카본매트까지… 난방·습도 관리 위한 겨울가전 3종 뉴스탭
AMD, AI 추론 반도체 기업 탈라스 인수 완료…차세대 AI 가속기 경쟁력 강화 뉴스탭
홍치, 유럽 현지 생산 파트너십 검토… 스텔란티스 등 다수 업체와 논의 글로벌오토뉴스
아우디, 순환경제 전담 자회사 ‘아우디 서큘러 솔루션즈’ 설립 글로벌오토뉴스
이 시간 HOT 댓글!
1/4