비교하고 잘 사는, 다나와 : 가격비교 사이트

다나와 앱
다나와 앱 서비스 목록
다나와 APP
다나와 가격비교 No.1 가격비교사이트 다나와 앱으로
간편하게 최저가를 확인하세요.
- -
QR코드
빈 이미지
다나와 앱 서비스 목록 닫기

오픈AI, 새로운 AI 모델 GPT-4.1 출시....'그런데 안전 보고서는?'

다나와
2025.04.23. 14:55:21
조회 수
1,859
17
댓글 수
2

공유하기

레이어 닫기

지금 보는 페이지가 마음에 든다면
공유하기를 통해 지인에게 소개해 주세요.

로그인 유저에게는 공유 활동에 따라
다나와 포인트가 지급됩니다.

자세히 >

URL이 복사되었습니다.
원하는 곳에 붙여넣기(Ctrl+V)하세요.

레이어 닫기

[출처 : 오픈AI 홈페이지]


14일(현지시간), 오픈AI는 새로운 AI 모델 시리즈 GPT-4.1을 출시했다. 오픈AI는 이 모델이 특히 프로그래밍 벤치마크 등 일부 테스트에서 기존 모델보다 뛰어난 성능을 보인다고 밝혔다. 하지만, GPT-4.1은 OpenAI가 모델을 출시할 때 통상적으로 함께 공개하는 '안전 보고서(시스템 카드)' 없이 배포되어 논란이 되었다.


16일 오전 현재까지 GPT-4.1에 대한 안전 보고서는 공개되지 않았으며 '테크크런치'에 따르면 OpenAI 대변인 샤오키 암도(Shaokyi Amdo)는 “GPT-4.1은 최전선(frontier) 모델이 아니기 때문에 별도의 시스템 카드를 발행하지 않을 것”이라고 말했다.


AI 연구소들은 일반적으로 모델의 안전성을 평가하기 위해 내부 및 외부 파트너와 함께 수행한 테스트 결과를 담은 안전 보고서를 공개하는 것이 관례다. 이 보고서에는 때때로 모델이 사람을 속이거나 과도하게 설득력 있는 위험한 특성이 있다는 등의 부정적인 정보도 포함될 수 있다. AI 커뮤니티는 이러한 보고서를 독립 연구 및 안전 테스트를 지지하는 선의의 노력으로 받아들이고 있다.



[출처 : 오픈AI 홈페이지]


 오픈AI 역시 작년 5월에 GPT-4o를 출시하며 스타트업이 수행한 안전 조치와 위험성 평가를 개략적으로 설명한 연구 문서 인 GPT-4o 시스템 카드를 공개한 바 있다. 당시 AI 시 전, 시스템의 취약점을 찾아내는 외부 레드팀, 즉 보안 전문가 그룹을 활용하여 모델의 주요 위험을 파악했고 이들은 GPT-4o가 누군가의 음성을 무단 복제하거나, 음란하고 폭력적인 콘텐츠, 또는 저작권이 있는 오디오 파일을 복제할 가능성과 같은 위험을 조사했다.



그 결과, 연구진은 GPT-4o의 위험성을 "중간"으로 평가했다. 전체 위험 수준은 사이버 보안, 생물학적 위협 , 설득, 모델 자율성이라는 네 가지 범주 중 가장 높은 위험 등급을 기준으로 했으며 '설득'을 제외한 모든 범주는 위험성이 낮은 것으로 평가됐다. '설득'의 경우, 연구진은 GPT-4o의 일부 글쓰기 샘플이 사람이 작성한 텍스트보다 독자의 의견을 더 잘 유도할 수 있음을 발견했다. 하지만 모델의 샘플이 전반적으로 더 설득력이 높지는 않았다.


 테크크런치에 따르면 최근 몇 달 사이 주요 AI 연구소들은 보고 기준을 낮추고 있다는 지적을 받고 있으며, 이는 안전 연구자들의 반발을 불러일으키고 있다. 예컨대 구글은 안전 보고서 발행에 미온적이며, 일부 연구소는 기존보다 정보가 부족한 보고서를 발행하고 있다.


오픈AI의 최근 사례도 예외는 아니다. 작년 12월에는 실제 배포된 모델과 다른 버전의 벤치마크 결과가 포함된 안전 보고서를 공개해 비판을 받았고, 지난달에는 시스템 카드 공개 전에 ‘딥 리서치’ 모델을 먼저 출시하기도 했다.


테크크런치는 GPT-4.1이 시스템 카드 없이 출시된 시점은 오픈AI의 안전 관행에 대해 내부 고발 및 비판이 이어지는 가운데라는 점에서 주목해야 한다고 말했다. 지난주에는 애들러를 포함한 12명의 전직 오픈AI 직원이 일론 머스크의 오픈AI 소송에 제출된 의견서(amicus brief)에 참여해, 영리 목적의 오픈AI가 안전성을 희생할 우려가 있다고 주장했다. 파이낸셜 타임즈 보도에 따르면, 오픈AI는 경쟁 압력에 따라 안전 테스트에 투입되는 시간과 자원을 축소한 것으로 나타났다.


[출처 : 오픈AI 홈페이지]



GPT-4.1은 OpenAI 모델 중 최고 성능을 자랑하는 것은 아니지만, 처리 효율성과 지연 시간 측면에서는 상당한 개선이 이루어졌다. 보안 AI 프로젝트(Secure AI Project)의 공동 창립자이자 정책 분석가인 토마스 우드사이드는 TechCrunch에, "모델 성능이 개선될수록, 이에 따른 위험을 이해하기 위한 안전 보고서가 더 중요해진다"고 강조했다.


반면 여러 AI 연구소는 안전 보고 요건을 법으로 규정하려는 시도에 반대해왔다. 예컨대 오픈AI는 AI 개발자들이 공개 모델에 대해 안전 평가를 시행하고 보고하도록 요구하는 캘리포니아 법안 SB 1047에 반대 의견을 표명한 바 있다.




글 / 홍정민 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com

공감/비공감

공감/비공감안내도움말 보기
유용하고 재미있는 정보인가요?
공감이 된다면 공감 버튼을, 그렇지 않다면 비공감 버튼을 눌러 주세요!
공감이나 비공감을 선택 하는 경우 다나와 포인트를 적립해 드립니다. ※ 공감 버튼의 총 선택 횟수는 전체 공개입니다. 비공감 버튼의 선택 여부는 선택한 본인만 알 수 있습니다.
저작권 안내
크리에이트 커먼즈 저작자 표시 필수 상업성 이용 불가 컨텐츠 변경 불가
저작권 안내
저작권 표시 필수
상업성 이용 불가
컨텐츠 변경 불가
* 본 내용은 위의 조건을 충족할 시, 별도의 허가 없이 사용이 가능합니다.
최신 일반뉴스 전체 둘러보기
1/1
신용구, KPGA 선수권 2R 3타 차 선두…옥태훈·왕정훈 공동 2위 (1) 연합뉴스
'데스 스트랜딩' 오리지널 스토리 담은 애니 나온다 (1) 게임메카
패션모델 같았던 김나영, 체중 불리고 KLPGA 첫 우승 기회(종합2보) 연합뉴스
용병이 레이드 도와준다, 로아 모바일 10월 테스트 게임메카
13년 전 KPGA투어 우승했던 백주엽, 챌린지 투어에서 첫 정상 연합뉴스
패션모델 같았던 김나영, 체중 불리고 KLPGA 첫 우승 기회(종합) 연합뉴스
[한주의게임소식] 다시 시동 건 여름의 왕자 '메이플' 게임동아
세나하자 세나! 넷마블 '세븐나이츠 리버스', '세나송' 2025 버전 온다 게임동아
크로노 오디세이 분위기 심상치 않네. 요동치는 카카오게임즈 주가 게임동아
넥슨 ‘헬로메이플’, 부산 해운대구와 업무 협약 체결 게임동아
AI 시대 진짜 수혜자는 ‘유튜브’... AI 챗봇 트래픽 1위부터 50위 공개 AI matters
[영상] 7년 만의 진화, 신형 넥쏘는 수소차의 미래가 될 수 있을까 글로벌오토뉴스
한국타이어, ‘모노마스’와 ‘아이온’ 소재 디지털 콘텐츠 공개 글로벌오토뉴스
“모리조가 다시 움직인다” 토요타, 뉘르24에서 GR 야리스 첫 실전 투입 글로벌오토뉴스
AI는 도구일 뿐, 진짜 경쟁력은 ‘데이터 문화’에 있다 AI matters
어도비, AI 시대에 브랜드 노출 강화하는 'LLM 옵티마이저' 출시 AI matters
오픈AI, 생물학 분야 AI 안전장치 강화... 화학무기 못 만들게 한다 AI matters
링크드인 공동창업자 "AI가 일자리 대학살? 그럴 리 없다" (1) AI matters
스페이스앤빈은 왜 미래 우주의 열쇠가 '상용 부품'이라 말할까? IT동아
오픈AI, 메타의 스케일AI 투자 직후 협업 중단 결정 AI matters
이 시간 HOT 댓글!
1/4