본문으로 이동

AI 엔지니어 로드맵 2026, 수학 없이 에이전트 하나 만들어 배포하기까지

geul조회 8추천 0댓글 0
  • 10월 8일 X 사용자 Precis0x가 올린 "AI 엔지니어 2026" 로드맵이 조회 22만을 넘김

  • 23개 항목에 수학이나 모델 학습은 없고, 에이전트 하나를 실제로 만들어 배포하고 운영하는 데까지가 전부임

  • 순서대로 묶으면 기초, 만들기, 튼튼하게, 내보내기의 4단계임

  • 개발 경력자라면 절반은 이미 하던 일이고, 새로 배울 것은 LLM 원리, RAG, evals 정도임

AI 엔지니어란, 머신러닝 엔지니어와 다른 점

이미 나온 LLM을 가져다 제품을 만드는 개발자를 말함.

  • 머신러닝 엔지니어는 모델을 직접 학습시키고, AI 엔지니어는 학습된 모델을 API로 불러 씀

  • 그래서 이 로드맵에는 선형대수, 통계, 딥러닝 이론이 없음

  • 대형 연구소가 아니면 기반 모델을 직접 학습하는 일은 거의 없다는 채용 분석도 있음 (CallMissed)

  • 원글 작성자의 당부는 "또 하나의 흔한 챗봇은 그만 만들고, 이름에 AI가 없어도 누군가 쓸 만한 것을 만들라"임

1단계 기초: Python, API, LLM 원리

프레임워크보다 바닥을 먼저 다지라는 단계임.

  • Python을 제대로 익힘. AI 라이브러리와 예제가 대부분 Python으로 먼저 나옴

  • 에이전트 프레임워크보다 API를 먼저 앎. 모델에 요청을 보내고 응답을 받는 과정을 직접 짜 봄

  • 채팅 화면이 아니라 LLM이 돌아가는 방식을 앎

    • 토큰(모델이 글을 자르는 단위), 컨텍스트 길이, 출력의 무작위성을 정하는 값이 결과와 비용을 바꿈

  • 웹 개발자라면 TypeScript로 시작해도 됨. Vercel AI SDK와 모델 회사들의 공식 TypeScript SDK가 있음

2단계 만들기: tool calling, RAG, 에이전트

LLM에게 손발과 기억을 달아 주는 단계임.

  • tool calling: 개발자가 정해 둔 함수(날씨 조회, DB 검색) 가운데 모델이 필요한 것을 골라 부르게 함. 에이전트의 바탕임

  • 임베딩과 벡터 검색: 문장을 숫자 묶음으로 바꿔, 질문과 뜻이 가까운 문서를 빠르게 찾음

  • RAG: 찾은 문서를 질문과 함께 모델에 넣어, 모델이 모르는 사내 문서나 최신 정보로 답하게 함

  • 에이전트는 하나만 끝까지 만듦. 여러 개를 엮는 건 그다음 일임

  • 지난 대화와 작업을 기억하게 하고, 가짜 응답(mock)이 아닌 실제 API와 DB에 연결함

3단계 튼튼하게: 실패에 대비하기

데모와 제품을 가르는 단계로, 23개 가운데 6개가 여기에 몰려 있음.

  • 재시도와 대체 모델: API가 실패하거나 느리면 다시 부르거나 다른 모델로 넘김

  • 구조화된 출력: JSON처럼 정한 모양으로만 답하게 해서 받는 쪽 코드가 깨지지 않게 함

  • 인증: 아무나 API를 불러 요금을 쓰지 못하게 막음

  • 관찰 도구(observability): 요청마다 토큰, 비용, 걸린 시간을 남김. Langfuse, LangSmith 같은 도구가 있음

  • evals: 질문과 기대하는 답을 모아 두고, 프롬프트나 모델을 바꿀 때마다 점수를 매겨 나빠졌는지 확인함

  • 시간 초과, 엉뚱한 입력처럼 실제로 일어날 오류를 일부러 넣어 망가뜨려 봄

4단계 내보내기: 배포하고 운영하기

남이 쓰게 만들고, 쓰면서 생기는 문제를 고치는 단계임.

  • 누구나 들어올 수 있는 주소로 공개 배포함

  • 실제 사용에서 요청 하나에 비용이 얼마 드는지 확인함

  • 응답 지연을 줄임. 답을 나눠 보내는 스트리밍, 더 작은 모델, 캐시가 흔한 방법임

  • 로그를 읽고, 사용자가 실제로 망가뜨린 부분을 고침

  • 남이 따라 할 수 있는 README를 쓰고, 이력서에 데모 주소를 넣음

이미 개발자라면 어디부터 할까

인증, 재시도, 배포, 로그는 이미 하던 일이라 새로 배울 몫이 생각보다 작음.

  • 웹이나 백엔드 경력이 있으면 3, 4단계의 절반은 익숙한 일임

  • 새로 배울 것은 LLM 원리, 임베딩과 RAG, evals임

  • 2026년에 가장 효과가 큰 기술로 evals를 꼽는 채용 분석이 있음 (CallMissed)

  • RAG 챗봇과 흔한 에이전트는 이미 지원자가 몰린 분야라는 지적도 있음 (Towards AI)

  • 프론트엔드 개발자라면 스트리밍 응답, 도구를 부르는 동안의 진행 표시, 실패했을 때의 화면을 다듬는 일에서 앞설 수 있음

추천저장

댓글

댓글을 남겨 보세요
로그인한 뒤에 댓글을 올릴 수 있습니다로그인
아직 댓글이 없습니다. 처음으로 남겨 보세요.
글쓰기