로그인하세요
알림
설정
레프트패널 닫기
관심
최근본
마이페이지
출석체크
카테고리
    서비스 바로가기
    • 신규 서비스금융혜택
    • 인기 서비스인터넷·TV
    • 신규 서비스알뜰폰 요금제
    • 신규 서비스인테리어 견적
    • 자동차
    • 인기 서비스조립PC
    • PC견적
    • PC26
    • LIVE쇼핑
    • 커뮤니티
    • 이벤트
    • 오늘의 특가
    • 신규 서비스데스크테리어
    앱 서비스
    • 자동차
    • PC견적
    • 장터
    인기 쇼핑몰
    • 지마켓
    • 옥션
    • 11번가
    • LG전자
    • 하이마트
    • 전자랜드
    • 롯데아이몰
    • SSG
    • CJ 온스타일
    • GS샵
    • 롯데닷컴(롯데온)
    • 현대Hmall
    • 이마트몰
    • SK스토아
    • 더현대닷컴
    • 엘롯데
    • 신세계몰
    • NS몰
    • 홈플러스
    • 공영쇼핑
    • 홈앤쇼핑
    • 신세계 라이브쇼핑
    • 오늘의 집
    • 배민상회
    • 동원몰
    • LF몰
    • ZETTA몰
    • 하프클럽
    • W쇼핑
    PC버전 로그인 개인정보처리방침 고객센터
    (주) 커넥트웨이브
    대표:
    김정남
    주소
    서울특별시 금천구 벚꽃로 298, 17층(가산동, 대륭포스트타워6차) (우) 08510
    • 사업자번호:
      117-81-40065
    • 통신판매업:
      제2024-서울금천-0848호
    • 부가통신사업:
      제003081호
    • 고객센터:
      1688-2470 (유료)
    • 이메일:
      cs@cowave.kr
    • 호스팅 제공자:
      (주)커넥트웨이브
    • 사업자 정보확인
    • 이용약관
    • 책임의 한계
    • 청소년 보호정책
    사용법 보기
    MY쇼핑이란? 자주 쓰는 쇼핑몰을 연결하면 쇼핑몰 주문내역을 한 번에 확인할 수 있습니다. 쇼핑몰 계정은 고객님의 핸드폰에만 저장되어 안전합니다.
    편리한 구매내역 확인. 다양한 쇼핑몰의 주문내역을 한 곳에서 확인해보세요.
    가격비교와 최저가 쇼핑을 한 번에. 자주 구매하는 상품은 가격비교를 통해 저렴하게 구매하세요.
    보안은 필수! 쉽고 편한 가치 쇼핑. 쇼핑몰 계정은 고객님의 핸드폰에만 암호화 저장되어 안전합니다. 쇼핑몰 연결
    다나와 홈

    커뮤니티 BETA AI다나와

    일반뉴스

    • 게시판
    • 상품포럼
    • 뉴스
    • 동영상
    • 커뮤니티 공지사항
      소비자사용기
    • 특가몰
      자유게시판
    • 이달의 이벤트
      유머게시판
    • 당첨자발표게시판
      댕냥이게시판
    • 포인트 마켓
      Q&A게시판
    • 다나와 래플
      상품의견
    • 모두의 경매
      체험단
    • 방명록
      엄근진게시판
    • 입소문쇼핑
      쇼핑몰후기
    • A/S후기
      당첨후기
    • AI다나와 NEW
    • 컴퓨터
      푸드
    • 취미
    • 최신뉴스
      일반뉴스
    • 기획뉴스
      신상품뉴스
    • 쇼핑뉴스
      테크팁
    • 다나와리포터
      구매가이드
    • 전문가리뷰
      인기순위가이드
    • 벤치마크
      차트뉴스
    • 가격동향
    • 고나고
      공구왕황부장
    • 노써치
      도레
    • 딴트공 말방구 실험실
      라이브렉스
    • 맛상무
      모터피디
    • 무적풍화륜
      민티저
    • 보드나라
      뻘짓연구소
    • 여행매거진 트래비TV
      오토기어
    • 조코딩 JoCoding
      인프제 INFJ
    • 주연 ZUYONI
      진블로그
    • 집마 홀릭TV
      톡써니
    • 포마: 탈 것을 리뷰하는 남자
      쿨엔조이
    • 훅간다TV
      AI 매터스
    • Allthatboots TV
      DmonkTV
    • Hakbong Kwon
      Motorgraph
    • PC SNAP
      Producer dk
    • THE EDIT
      UnderKG
    • 다나와 공식채널
      답나와
    • 리뷰나와
      샵다나와 조립갤러리
    >
    이전 글
    다음 글
    AI matters

    오픈AI, 외부 평가기관 4곳에 내부 모델과 학습 데이터 공개

    2026.11.17. 18:03:42
    읽음27

    오픈AI가 독립 평가기관 4곳에 내부 모델과 학습 데이터, 감시 시스템 접근권을 주고 안전성 평가를 맡긴다. 오픈AI는 11월 16일 공식 블로그를 통해 아폴로 리서치(Apollo Research), METR, 트랜슬루스(Transluce), 굿파이어(Goodfire)와 ‘상주형 평가(embedded assessments)’ 1단계 계약을 맺었다고 발표했다.

    상주형 평가는 외부 전문가가 연구소 내부 모델과 시스템에 깊이 접근해 모델 정렬과 안전장치의 효과를 장기간 평가하는 방식이다. 평가기관은 필요에 따라 오픈AI 연구원이 쓰는 내부 자원 일부를 함께 쓴다. 모델 체크포인트, 소스 코드, 학습과 평가 데이터, 감시 시스템, 기술 문서가 포함되며 해당 작업을 맡은 연구원, 엔지니어와 직접 대화할 수도 있다. 첫 평가는 학습 중이거나 사내에서 쓰는 모델의 정렬과 안전장치를 대상으로 한다.

    아폴로 리서치는 모델이 개발자 의도에 몰래 반하는 행동을 할 수 있는지, 오픈AI 안전장치가 이를 감지하는지 두 단계에 걸쳐 평가한다. METR은 오픈AI의 역대 최대 강화학습 실행에서 기존 시험과 감시 장치가 놓쳤을 수 있는 정렬 실패를 찾는다. 감시 장치를 더 넓게 평가하는 추가 평가도 잠정 합의했으며 범위는 협의 중이다. 트랜슬루스는 사후 학습 단계의 정렬 평가가 얼마나 충실한지 점검하고, 2027년 초 약 8주 동안 후속 평가를 진행할 계획이다. 굿파이어는 해석 가능성 연구원을 오픈AI에 배치해 학습 실행 감시와 디버깅, 정렬 개선을 지원한다.

    민감한 기밀 정보를 다루는 평가자는 오픈AI 사무실에서 오픈AI 기기로 작업한다. 모델 가중치나 구조처럼 가장 민감한 지식재산이 드러날 수 있는 경우에는 오픈AI 연구원과 함께 분석하는 대안도 검토한다. 오픈AI 재단 이사회 산하 독립 감독 기구인 안전보안위원회(SSC)는 가림 처리 없는 보고서를 받고, 오픈AI와 평가기관의 이견이 끝내 해소되지 않으면 최종 판단을 맡는다.

    평가기관은 결과를 독자적으로 공개할 수 있지만, 오픈AI는 기밀 정보를 가릴 권리를 갖고 안전 위험이 있는 발견에는 공개 시점을 미뤄 달라고 요청할 수 있다. 직원 면담 내용은 비공개가 원칙이며, 평가기관이 요청하면 오픈AI가 사실 여부를 확인한 진술은 공개할 수 있다. 아폴로 리서치와 굿파이어는 평가 대가를 받지만 결과와 연동되지 않고, METR과 트랜슬루스는 대가 없이 API 크레디트나 컴퓨팅 자원만 받을 수 있다.

    오픈AI는 이번 평가가 백악관 초지능 협약(White House Accord on Super Intelligence)에서 약속한 안전 통제 독립 평가 이행의 일부라고 설명했다. 앞으로 안전 프레임워크 준수 여부와 조직 문화, 업무 절차를 살펴보는 상주형 평가도 검토하고 있다.

    ▶︎ 관련 기사: 캘리포니아주, 통제 이탈 사고 80건 들어 오픈AI 제소

    자세한 내용은 오픈AI에서 확인할 수 있다.

    이미지 출처: 오픈AI




    AI Matters 뉴스레터 구독하기
    안내 ?

    말 많은 뉴스

    • 1

      [정보/루머] 새 아키텍처 적용하지만 소켓 유지하는 인텔 Razor Lake 및 차세대 XBOX 플랫폼 활용한 PC 플랫폼 준비하는 AMD 등

      댓글6
      [정보/루머] 새 아키텍처 적용하지만 소켓 유지하는 인텔 Razor Lake 및 차세대 XBOX 플랫폼 활용한 PC 플랫폼 준비하는 AMD 등
    • 2

      '노면 읽고 차체 움직임까지 제어' BYD, 신형 씰 07 '디서스-M' 최초 적용

      댓글5
      '노면 읽고 차체 움직임까지 제어' BYD, 신형 씰 07 '디서스-M' 최초 적용
    • 3

      짭슈스(Aula Kunlun X5)는 지슈스와 삼슈스를 대체할 수 있었을까? 한 자리에서 리뷰해봤습니다

      댓글4
      짭슈스(Aula Kunlun X5)는 지슈스와 삼슈스를 대체할 수 있었을까? 한 자리에서 리뷰해봤습니다
    • 4

      에일리언: 아이솔레이션, 20일부터 1주간 무료 배포

      댓글4
      에일리언: 아이솔레이션, 20일부터 1주간 무료 배포 에
    • 5

      쌀쌀한 11월 통영에서 만나는 분홍빛 봄날

      댓글4
      쌀쌀한 11월 통영에서 만나는 분홍빛 봄날 쌀

    일반뉴스 최신 글

    이전 페이지 1/10 다음 페이지
    • 판호 발급 릴레이 타고, 다시금 불붙은 게임사 중국 진출

      게임메카 18:18:01
      읽음 20
    • 에이스 뮤직 v1, AI 음악 평가 1위…수노 v6 앞서

      AI matters 18:03:55
      읽음 26
    • TOP500 신규 진입 27대 역대 최저…한국 ‘한강’ 12위

      AI matters 18:03:51
      읽음 28
    • MS 365 장애 원인은 7월 업데이트 결함…서버 80% 멈춰

      AI matters 18:03:47
      읽음 29
    • 오픈AI, 외부 평가기관 4곳에 내부 모델과 학습 데이터 공개

      AI matters 18:03:42
      읽음 26
    • 테슬라, 베를린 공장 30억 유로 증설…사이버캡 2029년 생산

      AI matters 18:03:38
      읽음 30
    • 로보테라, 16자유도 로봇 손 출시…엔비디아 그루트 2 시연에 사용

      AI matters 18:03:35
      읽음 25
    • 로봇 안전 기업 포트 로보틱스, 매출 52.5% 증가…나스닥 상장 추진

      AI matters 18:03:30
      읽음 24
    • 샤오펑, 휴머노이드 아이언 2027년 2분기 외부 판매 시작

      AI matters 18:03:26
      읽음 26
    • 아마존 죽스, 라스베이거스서 우버 앱 호출 시작…첫 외부 플랫폼 제휴

      AI matters 18:03:21
      읽음 28
    • 수능 당일 35분간 전국 드론 비행 금지…승인받아도 처벌

      AI matters 18:03:17
      읽음 33
    • 맥킨지 보험 에이전틱 AI, 아시아에선 비용보다 판매 10~20% 늘려

      AI matters 18:03:15
      읽음 25
    • 네오플, 제주대학교병원에 1억 원 후원

      게임동아 18:00:17
      읽음 25
    • 넥슨, '아주르 프로밀리아', 반올림피자 컬래버레이션 실시

      게임동아 18:00:17
      읽음 23
    • 일러스트 제작 과정 대공개! 일러스트레이터 Mmiacchi_의 제작 비하인드

      게임동아 18:00:17
      읽음 30
    • 넷마블 '뱀피르', 신규 영지 '티하' 추가 전클래스 밸런스 개선

      게임동아 18:00:17
      읽음 19
    • [자동차와 法] ‘대리운전’ 불렀으니 안심? 사고 나면 책임은 누구에게

      IT동아 18:00:11
      읽음 24
    • 슬레이 더 스파이어 2, 니오우 유물 등 대규모 업데이트

      게임메카 17:28:04
      읽음 41 댓글 1
    • SWC2026 월드 챔피언 TARS "첫 서울 방문, 증명 기쁘다"

      게임메카 17:26:31
      읽음 41
    • [겜ㅊㅊ] 할인 찬스! 스팀 오토배틀러 로그라이크 5선

      게임메카 17:04:34
      읽음 48
    • [오늘의 스팀] 진짜 좀비 느낌, 바디캠 업데이트 후 판매 1위

      게임메카 17:03:53
      읽음 43
    • 한국닌텐도, 스위치 1·2 수리 비용 23일부터 인상

      게임메카 17:01:18
      읽음 47 댓글 1
    • ‘러브라이브! 선샤인!!’ 일러스트 전시, 내년 2월 누마즈서 개최

      게임동아 17:00:33
      읽음 37
    • [리뷰] “유니티 옷이 이제야 어울리네” ‘풋볼매니저 2027’

      게임동아 17:00:31
      읽음 42
    • '아이디어의 문턱을 넘어 시장으로'··· 서울과기대의 제조창업 12팀 지원 들여다보니

      IT동아 17:00:27
      읽음 53 공감 1
    • “로블록스는 미래의 미디어”…UGC 판 키워 ‘차세대 닌텐도’ 꿈꾸는 벌스워크

      IT동아 17:00:27
      읽음 50
    • “한복 입은 쿠션, 수묵 닮은 아이라이너” 휘란, 한국의 아름다움으로 글로벌 시장 공략

      IT동아 17:00:27
      읽음 51
    • 테슬라, 독일 기가팩토리에 30억 유로 투자

      글로벌오토뉴스 16:51:40
      읽음 51
    • 상하이폭스바겐, 샤오펑과 공동 개발한 전기 SUV ‘ID. ERA 5X’ 중국 출시

      글로벌오토뉴스 16:51:22
      읽음 58
    • 르노 그룹, 전기차 수요 대응 위해 프랑스 공장 2,000명 채용

      글로벌오토뉴스 16:51:15
      읽음 44
    • JLR, 회계연도 2분기 영업이익 흑자 전환 성공

      글로벌오토뉴스 16:50:48
      읽음 49
    • 디플러스 기아 유스, LCK AS 상·하반기 연속 제패

      게임메카 16:17:35
      읽음 53 공감 1
    • AI다나와, ‘2시간 만에 만드는 나만의 AI 업무 비서' 무료 라이브 강의 연다

      다나와 16:06:56
      읽음 127 공감 4 댓글 1
    • 순천향대 산학협력단, ‘2026 Co-Create AI 사업화지원 IR-Day’ 개최.. 노하우 공유

      게임동아 16:00:19
      읽음 50 공감 1
    • ‘소통왕’ 넷마블, 12월에는 오프라인으로 무대 확장

      게임동아 16:00:19
      읽음 51 공감 1
    • ‘2026 Co-Create AI’ 게임 전문 멘토링 성료…글로벌 출시·특허 출원 성과에 '주목'

      게임동아 16:00:19
      읽음 64 공감 1
    • 439. 판이 바뀐 자동차산업 생태계의 현재와 지속 가능성

      글로벌오토뉴스 15:51:36
      읽음 73 공감 1
    • 2027년 글로벌 완성차 시장 0.8% 소폭 성장 전망

      글로벌오토뉴스 15:50:54
      읽음 70 공감 1
    • 오토체스류 집합, 스팀 '오토배틀러 RPG 게임' 축제 시작

      게임메카 15:41:00
      읽음 63 공감 1 댓글 1
    • 주차 중에도 화재 위험, BMW 미국서 72만 대 리콜…실외 주차 권고

      오토헤럴드 15:40:48
      읽음 74 공감 1
    • 3700만 원대 EV 주문에 최대 21개월… 폭스바겐도 놀란 ID. 폴로 인기

      오토헤럴드 15:40:43
      읽음 69 공감 1
    • 한국자동차전문기자협회·한국자동차공학회, 자동차 산업 발전 위한 업무협약 체결

      오토헤럴드 15:40:40
      읽음 75 공감 1
    • 넷마블 '블레이드&소울 레볼루션', 8주년 '환골탈태' 앞두고 전야제 이벤트

      게임동아 15:00:23
      읽음 69 공감 1
    • 엔씨, ‘리니지 페스티벌’에 관심 집중.. 티켓 당일 매진에 '긴급 확장'

      게임동아 15:00:23
      읽음 69 공감 1
    • [2026 강소특구] 경북 구미 강소연구개발특구 “스마트 제조 기술로 산업단지 혁신”

      IT동아 15:00:17
      읽음 71 공감 1
    • 세컨드팀, 슈퍼코더 AI 면접대회 개최···수상자 “기술 변화 경험하는 좋은 기회”

      IT동아 15:00:17
      읽음 70 공감 1
    • [차 vs 차] ‘쇼퍼드리븐 럭셔리’ 제네시스 GV90 vs ‘압도적 스케일·주행거리’ 캐딜락 에스컬레이드 IQ… 하이엔드 전기 SUV 패권 격돌

      다나와자동차 14:58:58
      읽음 80 공감 1
    • 롤스로이스모터카, 5천 년 역사의 보드게임 재해석한 ‘백개먼 세트’ 공개

      글로벌오토뉴스 14:50:50
      읽음 69 공감 1
    • '도벽' 룬이 돌아온다, 롤 내년 업데이트 계획 공개

      게임메카 14:48:49
      읽음 81 공감 1 댓글 1
    • 유니티, 인디게임 개발사 10곳에 5만 달러 지원… ‘유니티 펠로우십’ 출범

      게임동아 14:00:27
      읽음 56 공감 1
    • 영자런 플레이하고 엔딩 인증하면 선물이?!

    • [11.11~11.25] 엔티스 EG 1000W 80PLUS골드 풀모듈러 ATX3.1 블랙

    • 2시간 무료 라이브 강의로 완성하는 나만의 AI 업무 비서

    스폰서 PICK

    이전 페이지 2/4 다음 페이지
    • 엔티스 ES 800W 80PLUS스탠다드 ATX3.1

      엔티스 ES 800W 80PLUS스탠다드 ATX3.1

      엔티스
    • Antec C8 MESH(화이트)

      Antec C8 MESH(화이트)

      Antec
    • 잘만 ALPHA II DS A36(블랙)

      잘만 ALPHA II DS A36(블랙)

      잘만
    • 앱코 G40 시그니처(블랙)

      앱코 G40 시그니처(블랙)

      앱코
    • darkFlash DY470 ARGB 강화유리(화이트)

      darkFlash DY470 ARGB 강화유리(화이트)

      darkFlash
    • 마이크로닉스 WIZMAX 스텔라

      마이크로닉스 WIZMAX 스텔라

      마이크로닉스
    • AMD 라이젠5-5세대 7600 (라파엘)(멀티팩 정품)

      AMD 라이젠5-5세대 7600 (라파엘)(멀티팩 정품)

      AMD
    • 잘만
    • 다크플래쉬
    • 엔티스 배너
    PC버전 로그인 개인정보처리방침 고객센터
    (주) 커넥트웨이브
    대표:
    김정남
    주소
    서울특별시 금천구 벚꽃로 298, 17층(가산동, 대륭포스트타워6차) / 우편번호: 08510
    • 사업자번호:
      117-81-40065
    • 통신판매업:
      제2024-서울금천-0848호
    • 부가통신사업:
      제003081호
    • 고객센터:
      1688-2470 (유료)
    • 이메일:
      cs@cowave.kr
    • 호스팅 제공자:
      (주)커넥트웨이브
    • 사업자 정보확인
    • 이용약관
    • 책임의 한계
    • 청소년 보호정책
    뒤로
    새로고침 맨위로 이동
    안내

    유용하고 재미있는 정보인가요? 공감이 된다면 공감 버튼을,
    그렇지 않다면 비공감 버튼을
    눌러 주세요!
    공감이나 비공감을 선택 하는 경우
    다나와 포인트를 적립해 드립니다.
    ※ 공감 버튼의 총 선택 횟수는
    전체 공개입니다.
    비공감 버튼의 선택 여부는
    선택한 본인만 알 수 있습니다.

    포인트 안내
    목록
    공감
    비공감
    댓글
    공유

    공유받은 친구가 활동하면 포인트를!

    URL이 복사되었습니다.

    공유하기

    레이어 닫기

    지금 보는 페이지가 마음에 든다면
    공유하기를 통해 지인에게 소개해 주세요.

    • 카카오톡
    • 라인
    • 페이스북
    • X
    • 밴드
    https://dpg.danawa.com/mobile/news/view?boardSeq=60&listSeq=6083285 복사

    로그인 유저에게는 공유 활동에 따라
    다나와 포인트가 지급됩니다.

    자세히 >

    URL이 복사되었습니다.