AI 용어 사전
AI 도입 과정에서 자주 마주치는 용어
회의에서 낯선 단어가 나오면 논의가 멈춘다. 초거대 AI, 파운데이션 모델, 온디바이스 AI, 에이전트처럼 검토 과정에서 반복해서 등장하는 말을 실제 상황 기준으로 정리했다.
사전식 정의보다 검토 상황
이 페이지는 단어의 뜻을 외우게 하려는 목록이 아니다. 견적 요청서에 어떤 표현이 들어왔을 때, 벤더가 어떤 말로 설명할 때, 우리 조직의 다음 질문이 무엇이어야 하는지를 기준으로 각 항목을 배치했다. 항목마다 관련 페이지로 이어지는 링크를 달아 두었으니, 정의를 확인한 뒤 바로 비교표나 도입 절차로 넘어갈 수 있다.
용어는 세 묶음으로 나눠 읽는 편이 빠르다. 모델의 성격을 규정하는 말, 그 모델을 업무에 연결하는 구성 방식, 그리고 배포 위치와 운영 조건을 가리키는 말이다. 같은 단어라도 어느 묶음에서 쓰였는지에 따라 확인해야 할 항목이 달라진다.
초거대 AI와 파운데이션 모델
초거대 AI는 모델 규모를 강조하는 표현이다. 파운데이션 모델은 여러 업무에 재사용할 수 있는 기반 모델이라는 성격에 가깝다. 실무에서는 두 표현이 섞여 쓰이지만, 검토 단계에서 중요한 것은 규모가 아니라 이 모델을 우리 업무에 어떻게 붙이는가다.
네이버 HyperCLOVA X는 한국어 최적화 모델로 널리 알려져 있고, 업스테이지 Solar Pro 4는 기업·공공용 파운데이션 모델로 보도됐다. 두 사례 모두 비교 페이지에서 다룬다. 견적서에 두 표현이 함께 적혀 있다면, 모델 자체의 크기와 우리가 얹을 업무 범위를 따로 물어보는 편이 낫다.
AI 솔루션 비교 보기초거대 AI
모델의 매개변수 규모와 학습량을 앞세우는 표현. 어느 조직이 만들었고 어떤 언어에 강한지가 함께 따라붙는다.
확인할 것 — 우리 업무 언어에서의 결과 품질, 그리고 규모가 실제 비용과 응답 시간에 어떻게 반영되는지.
파운데이션 모델
여러 업무에 다시 얹어 쓸 수 있는 기반 모델. 문서 요약, 분류, 검색, 초안 작성처럼 서로 다른 일에 같은 모델을 돌려 쓴다.
확인할 것 — 파인튜닝과 프롬프트 중 어느 방식으로 우리 업무에 맞출 계획인지.
한국어 최적화
국내 데이터와 문맥을 더 반영한 모델을 가리키는 말. 사내 용어와 존댓말 처리에서 차이가 드러나기도 한다.
확인할 것 — 우리 조직의 문서 예시로 직접 시험해 본 결과가 있는지.
파인튜닝
기반 모델에 우리 데이터를 더 학습시켜 특정 업무에 맞추는 작업. 결과는 좋아지지만 갱신과 관리 부담이 함께 늘어난다.
확인할 것 — 학습 데이터를 다시 만들고 검수할 사람이 우리 쪽에 있는지.
생성형 AI와 LLM
생성형 AI는 새 내용을 만들어내는 AI를 넓게 가리키고, LLM은 그중 언어를 다루는 대형 모델을 가리킨다. 문서 요약, 초안 작성, 지식 검색이 대표적인 사용처다. 같은 생성형 AI라도 검색 결합 여부에 따라 쓸 수 있는 업무가 달라지므로, 용어보다 사용처를 기준으로 구분하면 혼동이 줄어든다.
LG AI Research의 EXAONE처럼 산업 특화로 확장된 사례도 있다. 특정 산업 데이터로 더 다듬은 모델은 일반 모델이 놓치는 표현을 잡아내는 대신, 그 산업 밖의 질문에는 약해질 수 있다.
문서 요약
긴 보고서와 회의록을 정해진 길이로 줄이는 작업. 원문에 없는 내용이 섞이지 않는지가 관건이다.
초안 작성
공지, 답변, 제안서의 첫 버전을 만드는 일. 담당자가 고칠 시간을 줄이는 데 목적이 있다.
지식 검색
사내 규정과 매뉴얼에서 답을 찾아 문장으로 돌려주는 일. 근거 문서를 함께 보여줄 수 있어야 신뢰가 생긴다.
멀티모델과 모델 라우팅
멀티모델은 여러 모델을 함께 쓰는 구성을 말한다. 모델 라우팅은 요청 성격에 따라 적합한 모델로 보내는 방식이다. 업무별로 강점이 다른 모델을 나눠 쓰면 특정 모델에 대한 의존이 줄어든다. 대신 관리해야 할 대상이 늘어나고, 그 요청을 어디로 보낼지 정하는 운영 주체가 필요하다.
- 라우팅 규칙
- 어떤 요청을 어느 모델로 보낼지 정한 기준. 질문 길이, 언어, 민감도 같은 조건으로 나눈다. 규칙이 늘어날수록 결과를 예측하기 어려워지므로 문서로 남겨야 한다.
- 비용 관리
- 모델마다 단가와 응답 속도가 다르다. 쉬운 요청은 가벼운 모델로 돌리는 식의 구분이 비용을 좌우한다.
- 품질 편차
- 같은 질문에도 모델별 답변이 다르다. 사용자 입장에서 결과가 흔들리면 신뢰가 떨어지므로, 어느 모델이 답했는지 기록해 두는 편이 낫다.
- 운영 부담
- 모델이 늘어나면 계약, 보안 검토, 버전 교체 일정도 함께 늘어난다. 확대 단계에서 자주 검토되는 구성이지만, 처음부터 여러 모델로 시작할 필요는 없다.
MaaS
MaaS는 모델을 서비스 형태로 제공하는 방식을 가리킨다. 여러 모델을 묶어 쓰거나, 필요할 때 모델을 바꿔 쓰는 구성이 여기에 해당한다. 직접 모델을 운영하지 않고 필요한 기능만 가져다 쓰는 선택지로 검토된다.
어떤 모델이 언제 교체되는지, 데이터가 어디에 보관되는지는 별도로 확인해야 한다. 배포 방식과 함께 보면 판단이 쉬워진다. 계약서에 모델 변경 통지 조건이 들어 있는지도 함께 물어볼 항목이다.
도입 가이드 확인하기RAG
RAG는 외부 문서를 검색해 모델 답변에 반영하는 방식이다. 사내 지식 검색에 AI를 붙일 때 가장 자주 언급되는 구성이다. 모델 자체를 다시 학습시키지 않고도 최신 문서를 반영할 수 있다는 점이 장점이다.
대신 문서 정제 품질이 결과를 크게 좌우한다. 문서가 정리되지 않은 조직일수록 준비 단계가 길어진다. 스캔본, 표, 여러 버전이 섞인 규정집이 많은 곳일수록 이 단계를 가볍게 볼 수 없다.
준비 순서
-
문서 범위 정하기
어떤 문서를 근거로 삼을지 먼저 정한다. 전 사내 문서를 한 번에 넣으려 하면 시작이 늦어진다.
-
정제와 분할
표와 이미지, 스캔본을 다루는 방식이 품질을 가른다. 문서를 검색하기 좋은 단위로 나누는 작업이 여기에 속한다.
-
근거 표시
답변마다 어느 문서를 참고했는지 보여준다. 담당자가 원문을 확인할 수 있어야 업무에 쓰인다.
-
갱신 주기 정하기
개정된 규정이 언제 반영되는지 정한다. 이 주기가 없으면 오래된 답변이 계속 나온다.
프롬프트와 프롬프트 엔지니어링
프롬프트는 모델에 주는 지시문이다. 같은 모델이라도 지시문 설계에 따라 결과가 크게 달라진다. 프롬프트 엔지니어링은 이 지시문을 반복 개선하는 작업을 가리킨다.
흔한 지시문
이 회의록 좀 요약해 줘.
길이, 대상 독자, 남길 항목이 빠져 있어 결과가 매번 달라진다.
검토용 지시문
회의록을 팀장 보고용으로 줄이고, 결정 사항과 담당자, 다음 기한을 항목으로 남겨 줘. 확인되지 않은 내용은 빼 줘.
형식과 제외 조건이 있어 결과를 비교하고 고칠 수 있다.
업무용으로 쓸 때는 결과 형식과 누락 여부를 함께 점검해야 한다. 평가 기준 없이 개선하면 나아졌는지 판단하기 어렵다. 같은 문서 묶음으로 이전 지시문과 새 지시문의 결과를 나란히 비교해 두면 판단 근거가 남는다.
에이전트
에이전트는 여러 단계를 스스로 수행하는 AI 구성을 가리킨다. 단순 질의응답과 달리 도구 호출, 검색, 결과 정리를 이어서 처리한다. 업무 자동화 범위를 넓힐 수 있지만, 중간 단계에서 오류가 생겼을 때 확인하기 어렵다는 점을 감안해야 한다. 검수 가능한 업무부터 적용하는 편이 안전하다.
예를 들어 문의 분류와 담당자 배정처럼 결과를 눈으로 확인할 수 있는 일은 시도해 볼 만하다. 반대로 계약 조건을 확정하거나 대외 발송을 대신하는 일은 사람이 마지막에 확인하는 절차를 남겨 두는 편이 낫다.
단계가 늘어날수록 확인 지점도 늘린다
도구 호출, 검색, 요약이 이어지면 어느 단계에서 어긋났는지 찾기 어려워진다. 중간 결과를 남기는 구성이 필요하다.
권한 범위를 좁게 시작한다
읽기만 하던 에이전트에 쓰기 권한을 주는 순간 되돌리기 어려운 일이 생긴다. 권한은 업무가 검증된 뒤에 넓힌다.
사람의 검수 지점을 정한다
어느 단계에서 담당자가 확인하고 승인할지 미리 정한다. 검수 없는 자동화는 오류를 그대로 확대한다.
온디바이스 AI
온디바이스 AI는 기기 안에서 직접 처리되는 AI를 가리킨다. 서버 호출 없이 동작하는 부분이 늘어나면 응답 지연과 데이터 이동 조건이 달라진다. 삼성 Gauss는 갤럭시 디바이스, 가전, 기업용 작업 흐름과 연결되는 맥락에서 언급되며, 온디바이스 AI와 결합한 서사로 자주 다뤄진다. 소비자용과 기업용 AI 경험의 접점에 있는 개념이다.
현장 담당자에게는 응답이 즉시 온다는 점과, 통신이 불안정한 곳에서도 일부 기능이 동작한다는 점이 실질적인 차이다.
피지컬 AI와 예측정비
피지컬 AI는 현장 장비와 직접 맞물리는 AI를 가리킨다. 예측정비는 설비 데이터를 읽어 고장 징후를 미리 잡는 적용 방식이다. 포스코 계열의 스마트팩토리 AI는 예측 분석과 지능형 운영 관리 기능 확장이 보도됐고, 제조 최적화와 가동 중단 감소가 핵심 사용처로 꼽힌다. 제조 현장에서 생성형 AI보다 먼저 검토되는 영역이다.
산업별 사례 살펴보기정부망 전용 AI와 국산 모델
정부망 전용 AI는 외부 호출이 불가능한 환경에서 운영되는 AI를 가리킨다. 업스테이지 Solar Pro 4는 2026년 11월 한국 정부 AI 플랫폼에 배포된 것으로 보도됐고, 정부망 전용 인프라 안에서 제공된다는 점이 특징으로 언급된다.
국산 모델이라는 표현은 개발 주체와 배포 위치를 함께 가리키는 경우가 많다. 같은 모델이라도 어디에서 어떻게 돌아가는지에 따라 검토 항목이 달라진다. 보안 조건과 배포 방식이 후보를 좁히는 대표적인 예다.
공공기관이나 규제 산업이라면 이 두 조건을 먼저 확인하는 편이 순서상 앞선다. 모델의 성능 비교표를 보기 전에, 우리 환경에서 외부 호출이 가능한지부터 정리해 두면 검토 시간이 줄어든다.
자주 묻는 질문
용어를 확인한 뒤에도 판단이 서지 않을 때 실제로 많이 나오는 질문을 모았다. 더 구체적인 상황은 문의로 남겨 주시면 확인해 안내한다.
초거대 AI와 파운데이션 모델은 같은 뜻인가요?
완전히 같지는 않습니다. 초거대 AI는 모델 규모를, 파운데이션 모델은 여러 업무에 재사용할 수 있는 기반 모델이라는 성격을 강조합니다. 실무에서는 두 표현이 섞여 쓰입니다. 견적서에 어느 쪽이 적혀 있든, 우리 업무에 어떻게 붙일지와 누가 운영할지를 함께 물어보는 편이 낫습니다.
RAG와 프롬프트는 어떻게 다른가요?
프롬프트는 모델에 주는 지시문이고, RAG는 외부 문서를 검색해 답변에 반영하는 구성입니다. 사내 문서를 근거로 답하게 하려면 두 가지를 함께 설계해야 합니다. 지시문만 다듬으면 근거 없는 답변이 남고, 검색만 붙이면 원하는 형식으로 정리되지 않습니다.
에이전트는 지금 도입할 만한가요?
업무 자동화 범위를 넓힐 수 있지만 중간 단계 오류를 확인하기 어렵습니다. 결과를 사람이 검수할 수 있는 업무부터 적용하는 편이 안전합니다. 검수 절차를 먼저 정하고, 그 절차 안에서 어디까지 맡길지 정하는 순서가 일반적입니다.
용어를 확인했다면 다음은 우리 조직의 조건
같은 단어도 조직의 보안 조건, 보유 문서, 운영 인력에 따라 검토할 항목이 달라진다. 비교표와 도입 가이드를 함께 보면 후보를 좁히는 순서가 잡힌다.
문의는 월요일–금요일 09:00–18:00 사이에 확인하며, 남겨 주신 내용에 따라 담당자가 회신한다. 편집 기준과 검증 원칙은 별도 페이지에서 확인할 수 있다.