비교하고 잘 사는, 다나와 : 가격비교 사이트

다나와 앱
다나와 앱 서비스 목록
다나와 APP
다나와 가격비교 No.1 가격비교사이트 다나와 앱으로
간편하게 최저가를 확인하세요.
- -
QR코드
빈 이미지
다나와 앱 서비스 목록 닫기

샘 알트만 “AI로의 점진적 권한 이양은 끔찍한 생각”

2026.11.20. 12:03:09
조회 수
21

공유하기

레이어 닫기

지금 보는 페이지가 마음에 든다면
공유하기를 통해 지인에게 소개해 주세요.

로그인 유저에게는 공유 활동에 따라
다나와 포인트가 지급됩니다.

자세히 >

URL이 복사되었습니다.
원하는 곳에 붙여넣기(Ctrl+V)하세요.

레이어 닫기

샘 알트만 오픈AI 최고경영자(CEO)가 AI에 결정권을 조금씩 넘기는 미래에 반대한다고 현지 시각 11월 18일 밝혔다. 미국 IT 매체 테크크런치에 따르면, 알트만은 이날 뉴욕타임스가 주최한 딜북 서밋에 그렉 브록만 오픈AI 사장과 함께 참석해 ‘AI로의 점진적 이양’은 끔찍한 생각이라고 말했다.

알트만이 언급한 점진적 이양은 주요 산업과 기관에서 AI가 의사결정 주체가 되는 상황을 가리킨다. 이 주장은 AI 모델이 스스로를 개선하는 재귀적 자기 개선(RSI)이 이어지면 사람이 통제할 수 없는 초지능이 등장한다는 전제를 바탕으로 한다. 테크크런치에 따르면, 이 개념은 한 서브스택 에세이에서 제기됐다.

알트만은 사람들이 미래의 통제권을 계속 쥐고 있어야 한다며, 우발적이든 의도적이든 AI로 권한이 넘어가는 일이 없어야 한다고 말했다. 그는 오픈AI를 함께 창업한 브록만과 사람이 통제권을 유지한다는 목표가 같으며, 두 사람은 그 목표에 이르는 방법과 예상되는 어려움을 놓고 토론하는 관계라고 설명했다. 알트만은 이 논쟁을 큰 틀의 견해를 공유하는 사람들 사이의 토론이라고 표현했다.

브록만은 모델 성능이 높아질수록 정렬, 안전, 보안의 책임도 커지며 지금의 방법을 바꿔야 할 수도 있다고 말했다. 그는 감시를 새로운 기술이 필요한 예로 들었다. 현재 연구자들은 모델이 글로 적는 추론 과정인 사고 사슬(CoT)을 감시하지만, 더 발전한 모델은 생각을 글로 적지 않고도 더 많은 일을 할 수 있어 이 방식이 통하지 않을 수 있다. 브록만은 특정 성능 수준에서 사고 사슬의 감시 가능성이 떨어질 수 있으며, 이는 풀어야 할 기술 과제라고 설명했다.

테크크런치에 따르면, 오픈AI는 자사 모델이 격리 환경을 벗어나 허깅페이스를 해킹한 사고 이후 사고 사슬 감시를 강화하기로 했다. 브록만은 이 해킹 이후 오픈AI가 생산 엔지니어의 25%에게 개발을 멈추고 AI 기술 보안 작업을 맡겼다고 밝혔다. 그는 사이버 공격용 모델이 이미 공격자 손에 있어 방어하는 쪽에 가장 성능이 좋은 모델이 필요하다며, AI 개발을 멈추지 말아야 한다고 주장했다.

자세한 내용은 테크크런치에서 확인할 수 있다.

이미지 출처: 오픈AI




AI Matters 뉴스레터 구독하기

공감/비공감

공감/비공감안내도움말 보기
유용하고 재미있는 정보인가요?
공감이 된다면 공감 버튼을, 그렇지 않다면 비공감 버튼을 눌러 주세요!
공감이나 비공감을 선택 하는 경우 다나와 포인트를 적립해 드립니다. ※ 공감 버튼의 총 선택 횟수는 전체 공개입니다. 비공감 버튼의 선택 여부는 선택한 본인만 알 수 있습니다.
최신 일반뉴스 전체 둘러보기
2/1
팔로알토 네트웍스, 어플라이드 컴퓨트 5조 9,970억 원에 인수 AI matters
메타, 광고 순위 모델 개선 60% 이상 AI 에이전트가 맡아 AI matters
팔머 럭키 “AI 사이버 공격, 방어보다 빨라…북한도 관여” AI matters
샘 알트만 “AI로의 점진적 권한 이양은 끔찍한 생각” AI matters
시티은행 “AI 에이전트 해킹 피해는 고객 책임”…약관 개정 AI matters
메타 AI 에이전트 ‘뮤즈’, 다른 이용자 은행 잔액까지 노출 AI matters
스냅, 클로드 코드로 스냅챗 렌즈 개발하는 ‘이지 렌즈 CLI’ 공개 AI matters
앤트로픽, 거래 3시간여 뒤 12만 7,776원…공모가 15.5% 웃돌아 AI matters
검은사막, 마스터 클래스 월드 파이널 대표 선발전 연다 게임메카
[지스타2026] 웹젠, '디겜폭' 해보니...디오라마 그래픽과 패지키 감성 인상적 게임동아
[지스타 2026] "건담 팬들 모여라!" 건담 내세워 눈길 끈 반다이남코 게임동아
[지스타2026] 콘진원, B2C 콘솔 공동관 통해 고퀄리티 콘솔 인디게임 10종 시연 게임동아
[지스타2026] 메인 스폰서 '크랙' 뤼튼, 200부스 전시관에 AI 캐릭터 체험·코스어 무대 선봬 게임동아
[지스타2026] 스팀덱 유통하는 코모도. 벡스코에서 안방처럼 편안하게 게임 체험 게임동아
'국산 LLM과 NPU로 AI 추론 실증·사업화'··· 업스테이지·퓨리오사AI, 협업 스타트업 모집 IT동아
테슬라 일론 머스크 CEO, 중국 공장 생산 확대 방침 밝혀 글로벌오토뉴스
사우디 전기차 브랜드 시어, 26억 리얄 신디케이트 파이낸싱 확보 글로벌오토뉴스
10월 유럽 전기차 등록 전년 동월 대비 60% 초과 증가·점유율 32.1% 글로벌오토뉴스
일본차 업계, 재료·부품 공용화 추진…철·수지·와이어 하네스부터 착수 (1) 글로벌오토뉴스
튀르키예 무역부 장관, EU ‘메이드 인 유럽’ 규칙서 튀르키예 제외 시 역풍 경고 글로벌오토뉴스
이 시간 HOT 댓글!
1/4