비교하고 잘 사는, 다나와 : 가격비교 사이트

다나와 앱
다나와 앱 서비스 목록
다나와 APP
다나와 가격비교 No.1 가격비교사이트 다나와 앱으로
간편하게 최저가를 확인하세요.
- -
QR코드
빈 이미지
다나와 앱 서비스 목록 닫기

엔비디아, AI 안전성 강화 위한 'NIM 마이크로서비스' 출시...아마존·로우스 등 도입

2025.01.17. 15:32:51
조회 수
381
15

공유하기

레이어 닫기

지금 보는 페이지가 마음에 든다면
공유하기를 통해 지인에게 소개해 주세요.

로그인 유저에게는 공유 활동에 따라
다나와 포인트가 지급됩니다.

자세히 >

URL이 복사되었습니다.
원하는 곳에 붙여넣기(Ctrl+V)하세요.

레이어 닫기

엔비디아(NVIDIA)가 16일(현지 시간) 기업들의 AI 애플리케이션 안전성과 정확성을 높이기 위한 새로운 'NIM 마이크로서비스(NIM microservices)'를 공개했다. 이는 엔비디아 네모 가드레일(NVIDIA NeMo Guardrails) 소프트웨어 툴의 일부다.

엔비디아 공식 블로그에 따르면 AI 에이전트는 전 세계 10억 명의 지식 노동자들의 생산성을 높일 것으로 전망된다. 하지만 기업들이 AI 에이전트를 개발하기 위해서는 신뢰성, 안전성, 보안성, 규정 준수와 같은 중요한 문제들을 해결해야 한다.


최대 40% 고객 응대 시간 단축하는 AI 가드레일

AI는 비즈니스 프로세스 전반에서 생산성을 급격히 향상시키고 있다. 고객 서비스 분야에서는 고객 문제 해결 시간을 최대 40% 단축했다. 하지만 고객 서비스와 기타 AI 에이전트를 확장하려면 유해하거나 부적절한 출력을 방지하고 AI 애플리케이션이 정의된 매개변수 내에서 작동하도록 보장하는 안전한 모델이 필요하다.

3만5000개 데이터로 학습한 콘텐츠 안전 마이크로서비스

새로운 마이크로서비스 중 하나인 콘텐츠 안전 모더레이션은 이지스 콘텐츠 안전 데이터셋(Aegis Content Safety Dataset)을 사용해 학습됐다. 이는 해당 분야에서 가장 높은 품질의 인간 주석 데이터 소스 중 하나다. 엔비디아가 큐레이팅하고 소유한 이 데이터셋은 허깅 페이스(Hugging Face)에서 공개적으로 사용할 수 있으며, AI 안전성과 시스템 제한을 우회하려는 탈옥 시도에 대해 플래그가 지정된 35,000개 이상의 인간 주석 데이터 샘플을 포함한다.

주요 기업들의 네모 가드레일 도입 사례

암독스(Amdocs), 세렌스 AI(Cerence AI), 로우스(Lowe's) 등 주요 기업들이 이미 네모 가드레일을 도입했다. 암독스의 앤서니 구네틸레케(Anthony Goonetilleke) 기술그룹 대표는 "네모 가드레일과 같은 기술은 생성형 AI 애플리케이션의 안전한 운영을 보장하는 데 필수적이다"라고 말했다.

자동차 산업을 위한 AI 솔루션을 전문으로 하는 세렌스 AI는 차량 내 어시스턴트가 맥락에 맞는 안전한 상호작용을 제공하도록 하기 위해 엔비디아 네모 가드레일을 사용하고 있다. 세렌스 AI의 닐스 샨츠(Nils Schanz) 제품 기술 부문 부사장은 "네모 가드레일은 우리 자동차 제조사 고객들을 위해 맞춤화가 가능하며 유해하거나 불쾌한 요청을 필터링하여 CaLLM 언어 모델이 의도하지 않거나 부적절한 콘텐츠를 최종 사용자에게 전달하지 않도록 보호한다"고 말했다.


리테일 분야 AI 혁신 가속화

주요 홈 임프루브먼트 소매업체인 로우스는 매장 직원들의 전문성을 높이기 위해 생성형 AI를 활용하고 있다. 포괄적인 제품 지식에 대한 접근성을 향상시킴으로써 직원들이 고객 질문에 답하고 프로젝트를 완료하는 데 필요한 적절한 제품을 찾을 수 있도록 지원한다.

엔비디아는 최근 NRF 쇼에서 리테일 쇼핑 어시스턴트를 위한 엔비디아 AI 블루프린트(NVIDIA AI Blueprint)에 네모 가드레일 마이크로서비스를 통합했다고 발표했다. 태스커스(Taskus), 테크 마힌드라(Tech Mahindra), 위프로(Wipro)와 같은 컨설팅 기업들도 네모 가드레일을 자사 솔루션에 통합하고 있다.


AI 안전성 테스트 위한 오픈소스 도구 '가락' 공개

엔비디아는 개발자들이 AI 안전장치의 효과를 테스트할 수 있도록 '가락(Garak)'이라는 오픈소스 도구도 공개했다. 이를 통해 데이터 유출, 프롬프트 인젝션, 코드 환각, 탈옥 시나리오 등의 문제를 평가할 수 있다.

네모 가드레일은 액티브펜스(ActiveFence)의 액티브스코어(ActiveScore), 하이브(Hive)의 AI 생성 콘텐츠 감지 모델, 피들러(Fiddler) AI 관찰성 플랫폼, 웨이츠 & 바이어시스(Weights & Biases)의 W&B Weave 등 주요 AI 안전성 모델 및 가드레일 제공업체들과의 통합을 지원한다.

이번에 공개된 네모 가드레일 마이크로서비스와 가락 툴킷은 모두 개발자와 기업들이 즉시 사용할 수 있다.

해당 기사의 원문은 엔비디아에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT를 활용해 작성되었습니다.





AI Matters 뉴스레터 구독하기

공감/비공감

공감/비공감안내도움말 보기
유용하고 재미있는 정보인가요?
공감이 된다면 공감 버튼을, 그렇지 않다면 비공감 버튼을 눌러 주세요!
공감이나 비공감을 선택 하는 경우 다나와 포인트를 적립해 드립니다. ※ 공감 버튼의 총 선택 횟수는 전체 공개입니다. 비공감 버튼의 선택 여부는 선택한 본인만 알 수 있습니다.
최신 신상품뉴스 전체 둘러보기
1/1
신일, 첫 프리미엄 캐리어 ‘세이예스 노마드 캐리어’ 출시 뉴스탭
풀무원, 대파 풍미 가득해 초보자가 먹어도 맛있는 ‘특제 대파간장 나또’ 출시 뉴스탭
현대차 대형 전기 SUV 아이오닉 9 "EV9 반면교사 6000만원대" 출시 오토헤럴드
지프, 군용 차량 원조 ‘윌리스 MB’ 기념 헌정 모델 '랭글러 ’41 에디션' 공개 오토헤럴드
이야게임즈, ‘이세계 판타지 라이프’ 정식 출시 게임동아
게임프리크와 원더플래닛이 손잡고 만든 '판도랜드' 4월말 전세계 출시 확정 게임동아
대원미디어 게임랩, 여성향 신작 '잭잔느' 발매 게임동아
넷마블, 대규모 쟁과 파밍의 재미 갖춘 ‘RF 온라인 넥스트’ 3월 20일 출시 게임동아
피씨디렉트, 인텔 최신 14세대 N 시리즈 탑재 'ASUS NUC14 Essential' 출시 다나와
벤큐, 프리미엄 홈 시네마 프로젝터 'W5800' 출시 다나와
아스크텍 '마이크론 Crucial DDR5-5600 CL46 패키지128GB(64Gx2)' 출시 (2) 다나와
아이노비아, 휴대용 블루투스 라벨프린터 '오르미 ILHX-04' 출시 다나와
고성능 오픈톱 ‘메르세데스-AMG CLE 53 4MATIC+카브리올레’ 출시 (1) 오토헤럴드
에스티컴퓨터, AI 딥러닝에 최적화된 '슈퍼마이크로 SYS-421GE-TNRT' 출시 (1) 다나와
제이씨현, 1년 새제품 교환 서비스 적용 'PNY GeForce RTX 5080' 출시 (2) 다나와
기아 픽업 '타스만' 본 계약 돌입… 시작가, 렉스턴 스포츠 겨냥한 3750만 원 (2) 오토헤럴드
벤큐, 원하는 각도로 자유롭게 투사할 수 있는 '미니빔 GV50' 출시 (2) 다나와
킹덤 컴 2 개발비 600억 원, 출시 하루 만에 회수 (3) 게임메카
마이크로닉스, 더 넓고 강력해진 'WIZMAX ML-360 WIDE BTF' 출시 (3) 다나와
서린씨앤아이 '서멀라이트 로얄 프리터 130' CPU 쿨러 출시 (4) 다나와
이 시간 HOT 댓글!
1/4