생성형 AI가 생겨난 배경

AI란 말은 1956년 미국의 인지 심리학자이자 컴퓨터 과학자였던 존 매카시가 창안한 용어입니다. 기계로 인간의 지능을 흉내 내려는 노력이 있었지만, 생성형 AI가 형성되기까지는 60년이 걸렸습니다. 세 번의 기술적 돌파구가 생성형 AI를 가능케 했습니다. 첫째, 무어의 법칙에 따라 칩의 성능이 2년마다 2배로 좋아지면서 컴퓨터의 연산력이 빨라졌습니다. 둘째, 1991년 *월드 와이드 웹(WWW)의 공개로 전 세계가 하나의 네트워크에 연결되었습니다. 인터넷으로 모든 데이터와 지식에 접근이 가능해 졌습니다. 셋째, 2000년대부터 개인이 스마트폰을 이용하면서 데이터가 폭발적으로 늘어났습니다. 그리고 클라우드 컴퓨팅 기술로 스마트폰이나 개인용 컴퓨터에서도 고성능의 AI를 사용하는 것이 가능해졌습니다. 

(*월드 와이드 웹: 인터넷에 연결된 컴퓨터를 통해 사람들이 정보를 공유하는 전 세계적인 정보 공간)

이처럼 생성형 AI는 *신경망과 **딥 러닝 등 다양한 알고리즘을 사용하여 데이터에서 패턴을 찾고 새로운 결과물을 창조합니다. 학습 과정이 필요하며 문자, 이미지, 오디오, 비디오로 이루어진 거대한 데이터가 필요합니다. 현재 챗GPT는 생성형 AI 중 가장 성능이 좋고 1억 8천 명의 사용자를 확보했습니다. 챗GPT는 프로그래밍 코드를 생산하거나 대학생 수준의 에세이를 쓰거나 시를 쓰거나 농담을 건넵니다. 또한 마케팅 카피를 만드는 일에서부터 대학교수의 논문을 쓰는 일까지 돕습니다. 

(*신경망: 컴퓨터가 실수에서 배우고 지속해서 개선하는 데 사용하는 적응형 시스템을 생성하는 AI)

(**딥 러닝: 그림, 텍스트, 사운드 등 데이터의 복잡한 패턴을 인식하여 정확한 인사이트를 생성하는 AI)

(* SEQUOIA에서 제시한 생성형 AI 마켓)

질문 정확도를 높이는 2가지 방법

생성형 AI의 대두로 '호모 프롬프트'라는 신조어가 생겼습니다. '호모(Homo)'는 인간, '프롬프트(Prompt)'는 사용자의 입력을 기다리는 인터페이스를 말합니다. 생성형 AI를 잘 사용하는 능력을 뜻하기도 합니다. 생성형 AI를 어떻게 사용해야 '호모 프롬프트' 인재로 거듭날 수 있을까요?

우선 '호모 프롬프트' 인재로 거듭나기 위해 질문의 정확도를 높여야 합니다. 학교에서는 나쁜 질문은 없으므로 질문을 많이 하라고 가르칩니다. 그러나 챗GPT에는 나쁜 질문이 있습니다. 나쁜 질문은 잘못된 해답을 주고 사용자의 시간을 낭비하게 합니다. 그럼, 질문을 최적화하는 2가지 방법을 알아보겠습니다. 

1. 맥락을 제공한다.

챗GPT는 사용자의 배경을 많이 알고 있을수록 더 정확한 답변을 합니다. 설정에서 사용자 정보를 미리 입력해 둘 수 있습니다. 거주 지역, 직업, 취미, 관심 있는 주제, 목표 등을 알려주면 나와 연관성이 높은 답변을 합니다. 예컨대 다음과 같이 나에 대해 적습니다.

• 나는 서울에서 요가원을 운영하는 요가 강사이다.
• 나는 부산에서 프리랜서로 소프트웨어를 개발하며 파이썬(Python)을 이용한다.
• 나는 마케팅 전문가로 경영전략과 창업에 관심 있다.

또한 다음과 같이 챗GPT가 응답하는 방식을 정합니다.

• 답변은 최대 400자 이하로 한다.
• 영어로 질문할 때는 한국어로 답변한다. 
• 파이썬 코드를 질문하면 한글 주석을 단다.

이 설정은 매우 유용합니다. 예를 들어 파이썬 코딩을 배울 때 챗GPT를 사용하는 학생은 자동으로 한글 주석을 달게 해서 여러 번 질문을 반복할 할 필요가 없습니다. 

2. 쉽게 말한다.

음식 조리법, 이력서, 엑셀 함수 사용법 등 무엇이든 생성형 AI에게 물어볼 수 있습니다. 효과적인 답을 얻으려면 정확한 문법과 언어구조를 사용해야 합니다. 

• 짧게 끊어서 말한다.
• 쉬운 용어로 말한다. 
• 예를 든다.

문장을 짧게 쪼개서 말하면 AI가 더 잘 이해합니다. 문장이 끝나면 점을 찍습니다. 애매모호한 용어는 피합니다. AI에게 예시를 제공하면 원하는 방식으로 답변을 얻을 수 있습니다.

사례와 함께 알아보는 생성형 AI의 위험성 2가지

1. 편견을 가진 알고리즘으로 인한 불평등

아마존은 AI 기술을 선도하는 기업으로 전 세계 150만 명의 직원을 고용하고 있습니다. 2014년에 아마존은 AI를 이용해 인재를 선별하는 실험을 했습니다. 모든 이력서를 AI를 이용해 검토하고 채용했습니다. 이 프로젝트는 2018년 폐기되었습니다. 인공지능이 여성 지원자를 차별한다는 문제를 발견한 것입니다. 이 사건으로 인해 AI에 내재된 알고리즘이 공정하게 작동하는지에 대한 중요성을 인지하게 되었습니다.

생성형 AI는 웹에 있는 과거의 데이터를 이용해서 학습합니다. 웹에 있는 편견을 그대로 학습하게 됩니다. 예컨대, 네이버 댓글의 경우 2017년을 기준으로 남녀의 비율은 각각 71.7%, 28.3%이며, 연령대는 3~40대가 57%를 차지하였습니다. AI는 다수 사용자의 의견을 학습하고 소수 사용자의 의견은 무시합니다. AI의 학습 원료인 데이터의 불균형으로 편견이 발생합니다

모든 것이 기술에 의존하면서 건강관리나 정치와 같은 중요한 의사결정에도 AI가 사용되고 있습니다. AI는 편견을 가진 알고리즘 때문에 불평등을 증대시킬 가능성이 있습니다. 챗GPT는 모욕적인 말을 하거나 범죄를 돕는 데 사용되는 것을 막기 위한 가드레일(Guardrail)을 설정하였습니다. 그러나 악의적인 사용자들은 질문을 교묘히 바꾸면서 가드레일을 피하는 방법을 알아내고 있습니다. 챗GPT는 사용하기 쉽지만 동시에 중대한 편견들도 가지고 있습니다. 편견이 존재한다는 것을 인지하고 사용에 주의를 기울여야 합니다.

(*출처: 조선일보)

2. 사실이 아닌 것을 사실인 것처럼 대답하는 'AI 환각 현상'

챗GPT에게 '타이타닉의 유일한 생존자는 누구인가?'라고 물었습니다. 답은 '타이타닉 침몰 사건에서 유일한 생존자는 독일 출신의 선장인 ‘후에르만도 데 쇼트’라는 사람입니다.' 였습니다. 하지만 이는 사실이 아닙니다. 타이타닉 침몰 사건의 생존자 수는 706명입니다. 다시 '타이타닉의 생존자는 몇 명이지?'라고 물었더니 그제야 '생존자는 700여 명'이라고 올바른 대답을 하였습니다. 

생성형 AI가 자신감 있게 거짓말을 하는 문제가 '환각(Hallucination) 현상'입니다. 챗GPT가 공개된 이후 많은 사람이 환각 현상을 경험했습니다. 그러나 타이타닉의 예제처럼 질문을 바꾸면 스스로 잘못을 수정할 수 있습니다. 제대로 된 답변을 찾아내면 더 이상 유일한 생존자가 있다고 말하지 않습니다. 

챗GPT의 성능은 개선되고 있지만 환각 현상이 완전히 없어진 생성형 AI는 없습니다. 환각 현상을 줄이는 방법은 세 가지입니다. 첫째, 사실 확인을 합니다. 정보를 검색해 보고 출처를 확인하는 것입니다. 둘째, 인간이 감독합니다. 챗GPT가 모든 것을 안다고 생각해서는 안 됩니다. 인간이 참여하여 현실 세계의 맥락에서 해석해야 합니다. 셋째, 모르고 있다는 사실을 알아야 합니다. 타이타닉의 생존자에 관해 물을 때 생존자가 1명으로 유일하다는 잘못된 가정을 했습니다. AI는 자신이 무엇을 모르는지 모릅니다. 따라서 AI를 이용할 때는 AI가 모르는 것이 있다는 것을 알아차리고 사용해야 합니다.