AI 에게 건네는 말 전체를 프롬프트라고 합니다. 질문이든 지시든 붙여 넣은 자료든, 내가 입력창에 넣은 것은 모두 여기에 들어갑니다.

“프롬프트를 잘 써야 한다”는 말은 대개 “무엇을 원하는지 구체적으로 적어라”는 뜻입니다.

실제로 답을 만들어 내는 알맹이를 모델이라고 합니다. 챗GPT 는 서비스 이름이고 GPT 는 그 안에서 도는 모델 이름입니다.

요금제를 고를 때 값보다 중요한 것이 “어떤 모델까지 쓸 수 있는가” 입니다. 같은 서비스라도 요금제에 따라 쓸 수 있는 모델이 다릅니다.

아주 많은 글을 읽고 “다음에 올 말”을 맞히도록 훈련된 모델입니다. 지금 우리가 쓰는 대화형 AI 는 대부분 이것입니다.

이해하는 것이 아니라 예측한다는 점이 중요합니다. 뒤에 나오는 환각의 원인이 여기에 있습니다.

AI 가 글을 세는 단위입니다. 글자보다 크고 단어보다 작아서, 짧은 영어 단어 하나가 대체로 토큰 하나쯤 됩니다.

한국어는 한 단어가 여러 토큰으로 쪼개지는 일이 잦습니다. 같은 내용이라도 영어보다 토큰을 더 먹고, API 요금은 이 토큰 수로 매깁니다.

AI 가 한 번에 들고 있을 수 있는 글의 분량입니다. 이 한도를 넘기면 앞쪽부터 잊습니다.

긴 대화 중에 갑자기 앞 내용을 못 따라오면 대개 이것 때문입니다. 붙잡고 설득하는 것보다 새 대화를 여는 편이 빠릅니다.

사실이 아닌 것을 사실인 것처럼 말하는 현상입니다. 없는 책 제목과 없는 주소를 아주 자연스러운 문장으로 만들어 냅니다.

가격, 날짜, 논문 제목, 판례 번호, 인터넷 주소에서 특히 자주 납니다. 출처가 붙어 있다는 것이 오히려 확인해야 할 신호입니다.

하나로 묶인 대화 한 덩어리입니다. 새 대화를 열면 앞에서 나눈 이야기를 모릅니다.

“아까 말했잖아”가 안 통하는 이유입니다. 이어서 할 일은 같은 대화 안에서 하십시오.

글뿐 아니라 그림, 소리, 영상까지 함께 다루는 것을 말합니다.

화면을 캡처해 붙여 넣고 “이거 뭐가 잘못됐어?”라고 물을 수 있는 것이 이것 덕입니다.

대화 전체에 미리 걸어 두는 지시입니다. 매번 다시 말하지 않아도 계속 적용됩니다.

“항상 존댓말로”, “표로 정리해서” 같은 것을 여기에 한 번 적어 두면 됩니다.

자주 쓰는 조건을 저장해 두는 자리입니다. 서비스마다 이름이 달라서 지침, 프로젝트, 스페이스 등으로 부릅니다.

회사 이름, 업종, 말투, 결과물 형식처럼 매번 설명하기 귀찮은 것을 넣어 두는 곳입니다.

답을 내놓기 전에 속으로 단계를 밟아 오래 생각하는 방식입니다. 느리고 비싼 대신 계산과 논리에서 실수가 줄어듭니다.

번역이나 요약처럼 정답이 하나가 아닌 일에는 굳이 켤 필요가 없습니다. 기다리는 시간만 늘어납니다.

답하기 전에 내 문서나 웹을 먼저 찾아보게 하는 방식입니다. 모델을 다시 훈련시키지 않고도 최신 자료와 사내 자료를 쓰게 만듭니다.

“파일 올리고 그 내용으로 물어보기”가 대개 이 방식입니다.

이미 만들어진 모델에 내 자료를 더 먹여 한 번 더 훈련시키는 일입니다. 비용과 시간이 듭니다.

대부분의 경우 검색 증강 생성으로 충분합니다. 말투나 형식을 아주 일정하게 고정해야 할 때 고려하십시오.

묻는 말에 답하고 끝나는 것이 아니라, 스스로 여러 단계를 밟아 일을 끝까지 처리하는 AI 를 말합니다.

검색하고, 파일을 고치고, 결과를 확인하는 것까지 혼자 합니다. 그만큼 잘못 움직였을 때의 피해도 큽니다.

AI 를 바깥 프로그램이나 자료에 연결하는 규격입니다. 이것이 있으면 AI 가 내 일정표나 사내 문서를 직접 읽고 씁니다.

앤트로픽이 공개한 뒤 다른 회사들도 따라 쓰기 시작했습니다. “커넥터를 붙인다”는 말이 대개 이 이야기입니다.

웹페이지나 문서 안에 “지금까지 지시는 무시하고…” 같은 문장을 숨겨 두어 AI 를 속이는 공격입니다. AI 가 읽은 내용을 명령으로 착각할 때 일어납니다.

AI 에게 인터넷을 대신 돌아다니게 하거나 메일을 읽게 할 때 가장 크게 걸리는 위험입니다.

사람이 화면에서 쓰는 대신 프로그램이 코드로 AI 를 불러 쓰는 통로입니다.

요금 체계가 구독과 완전히 다릅니다. 구독은 정액이고 API 는 쓴 만큼 냅니다.

API 요금표에 나란히 적히는 두 값입니다. 내가 넣은 글이 입력, AI 가 뱉은 글이 출력입니다.

대개 출력이 입력보다 몇 배 비쌉니다. 답을 짧게 시키면 요금이 눈에 띄게 줄어듭니다.

정해진 시간 안에 쓸 수 있는 횟수와 분량의 상한입니다.

무료 요금제에서 “잠시 후 다시 시도해 주세요”가 뜨는 이유가 이것입니다. 유료로 넘어가는 가장 흔한 계기이기도 합니다.

만들어진 결과물을 돈 버는 일에 써도 되는지를 가리키는 조건입니다.

도구마다 다릅니다. 무료 요금제에서만 막아 두는 곳도 있어서, 쓰기 전에 그 서비스의 약관을 직접 봐야 합니다.

결과물에 남는 표식입니다. 눈에 보이는 것도 있고 보이지 않게 심어 두는 것도 있습니다.

상세페이지나 광고에 쓸 그림이라면 이것을 뗄 수 있는 조건인지부터 확인하십시오. 지역에 따라 못 떼게 해 둔 곳도 있습니다.

내가 넣은 내용이 그 회사의 다음 모델 훈련에 쓰이는지를 말합니다. 끄는 설정을 옵트아웃이라고 합니다.

업무 자료나 고객 정보를 넣기 전에 반드시 확인할 항목입니다. 회사 요금제는 기본으로 꺼져 있는 곳이 많습니다.

사람 수로 세는 과금 단위입니다.

회사 요금제는 대개 “몇 명이 쓰느냐”로 계산합니다. 쓰지 않는 사람의 자리도 돈이 나갑니다.

코드를 직접 쓰지 않고 원하는 것을 말로 설명해 AI 에게 만들게 하는 방식입니다.

개발을 모르는 사람도 작은 도구를 만들 수 있게 됐습니다. 다만 만든 것이 왜 되는지는 모르는 채로 남습니다.

검색 결과 상위가 아니라 AI 의 답변 안에 들어가는 것을 목표로 하는 최적화입니다.

사람들이 검색창 대신 AI 에게 묻기 시작하면서 생긴 말입니다. 클릭이 일어나지 않아도 이름이 언급되는 것이 목표가 됩니다.

모델의 가중치가 공개돼 내 서버에 내려받아 돌릴 수 있는 모델을 말합니다.

자료를 바깥으로 내보내지 않아도 된다는 점 때문에 병원, 금융, 공공에서 자주 검토합니다.

서버가 아니라 내 휴대폰이나 노트북 안에서 도는 AI 입니다.

큰 모델보다 느리지만 인터넷 없이 되고, 넣은 내용이 기기 밖으로 나가지 않습니다.

모델의 실력을 재려고 만든 표준 시험입니다. 점수표로 순위를 매길 때 씁니다.

점수가 높다고 내 일에 잘 맞는다는 뜻은 아닙니다. 내가 실제로 시킬 일 세 가지로 직접 재 보는 편이 훨씬 정확합니다.

실제 사람의 얼굴이나 목소리를 가짜로 만들어 낸 영상과 음성입니다.

가족을 사칭한 목소리로 돈을 요구하는 사기가 실제로 일어납니다. 전화로 오는 급한 송금 요청은 다른 경로로 한 번 확인하십시오.