AI 엔지니어 로드맵 2026, 수학 없이 에이전트 하나 만들어 배포하기까지
10월 8일 X 사용자 Precis0x가 올린 "AI 엔지니어 2026" 로드맵이 조회 22만을 넘김
23개 항목에 수학이나 모델 학습은 없고, 에이전트 하나를 실제로 만들어 배포하고 운영하는 데까지가 전부임
순서대로 묶으면 기초, 만들기, 튼튼하게, 내보내기의 4단계임
개발 경력자라면 절반은 이미 하던 일이고, 새로 배울 것은 LLM 원리, RAG, evals 정도임
AI 엔지니어란, 머신러닝 엔지니어와 다른 점
이미 나온 LLM을 가져다 제품을 만드는 개발자를 말함.
머신러닝 엔지니어는 모델을 직접 학습시키고, AI 엔지니어는 학습된 모델을 API로 불러 씀
그래서 이 로드맵에는 선형대수, 통계, 딥러닝 이론이 없음
대형 연구소가 아니면 기반 모델을 직접 학습하는 일은 거의 없다는 채용 분석도 있음 (CallMissed)
원글 작성자의 당부는 "또 하나의 흔한 챗봇은 그만 만들고, 이름에 AI가 없어도 누군가 쓸 만한 것을 만들라"임
1단계 기초: Python, API, LLM 원리
프레임워크보다 바닥을 먼저 다지라는 단계임.
Python을 제대로 익힘. AI 라이브러리와 예제가 대부분 Python으로 먼저 나옴
에이전트 프레임워크보다 API를 먼저 앎. 모델에 요청을 보내고 응답을 받는 과정을 직접 짜 봄
채팅 화면이 아니라 LLM이 돌아가는 방식을 앎
토큰(모델이 글을 자르는 단위), 컨텍스트 길이, 출력의 무작위성을 정하는 값이 결과와 비용을 바꿈
웹 개발자라면 TypeScript로 시작해도 됨. Vercel AI SDK와 모델 회사들의 공식 TypeScript SDK가 있음
2단계 만들기: tool calling, RAG, 에이전트
LLM에게 손발과 기억을 달아 주는 단계임.
tool calling: 개발자가 정해 둔 함수(날씨 조회, DB 검색) 가운데 모델이 필요한 것을 골라 부르게 함. 에이전트의 바탕임
임베딩과 벡터 검색: 문장을 숫자 묶음으로 바꿔, 질문과 뜻이 가까운 문서를 빠르게 찾음
RAG: 찾은 문서를 질문과 함께 모델에 넣어, 모델이 모르는 사내 문서나 최신 정보로 답하게 함
에이전트는 하나만 끝까지 만듦. 여러 개를 엮는 건 그다음 일임
지난 대화와 작업을 기억하게 하고, 가짜 응답(mock)이 아닌 실제 API와 DB에 연결함
3단계 튼튼하게: 실패에 대비하기
데모와 제품을 가르는 단계로, 23개 가운데 6개가 여기에 몰려 있음.
재시도와 대체 모델: API가 실패하거나 느리면 다시 부르거나 다른 모델로 넘김
구조화된 출력: JSON처럼 정한 모양으로만 답하게 해서 받는 쪽 코드가 깨지지 않게 함
인증: 아무나 API를 불러 요금을 쓰지 못하게 막음
관찰 도구(observability): 요청마다 토큰, 비용, 걸린 시간을 남김. Langfuse, LangSmith 같은 도구가 있음
evals: 질문과 기대하는 답을 모아 두고, 프롬프트나 모델을 바꿀 때마다 점수를 매겨 나빠졌는지 확인함
시간 초과, 엉뚱한 입력처럼 실제로 일어날 오류를 일부러 넣어 망가뜨려 봄
4단계 내보내기: 배포하고 운영하기
남이 쓰게 만들고, 쓰면서 생기는 문제를 고치는 단계임.
누구나 들어올 수 있는 주소로 공개 배포함
실제 사용에서 요청 하나에 비용이 얼마 드는지 확인함
응답 지연을 줄임. 답을 나눠 보내는 스트리밍, 더 작은 모델, 캐시가 흔한 방법임
로그를 읽고, 사용자가 실제로 망가뜨린 부분을 고침
남이 따라 할 수 있는 README를 쓰고, 이력서에 데모 주소를 넣음
이미 개발자라면 어디부터 할까
인증, 재시도, 배포, 로그는 이미 하던 일이라 새로 배울 몫이 생각보다 작음.
웹이나 백엔드 경력이 있으면 3, 4단계의 절반은 익숙한 일임
새로 배울 것은 LLM 원리, 임베딩과 RAG, evals임
2026년에 가장 효과가 큰 기술로 evals를 꼽는 채용 분석이 있음 (CallMissed)
RAG 챗봇과 흔한 에이전트는 이미 지원자가 몰린 분야라는 지적도 있음 (Towards AI)
프론트엔드 개발자라면 스트리밍 응답, 도구를 부르는 동안의 진행 표시, 실패했을 때의 화면을 다듬는 일에서 앞설 수 있음
댓글