AI 기초부터 실무까지: AI-900 완전 정복 가이드

“자격증 하나가 커리어를 바꿀 수 있을까?” 솔직히 처음엔 반신반의했다. 그런데 AI-900 시험을 준비하면서 단순한 자격증 취득 이상의 것을 얻었다. AI라는 거대한 세계를 체계적으로 바라보는 눈이 생겼다고 할까. 이 글은 내가 직접 공부하고 시험을 치른 경험을 바탕으로, AI-900을 처음 접하는 분들이 실수 없이 준비할 수 있도록 쓴 현실적인 가이드다.


AI-900이 뭔지부터 알고 시작하자

Microsoft Azure AI Fundamentals, 줄여서 AI-900은 Microsoft가 제공하는 AI 입문 수준의 자격증 시험이다. 클라우드 자격증 시리즈 중 가장 기초 단계에 해당하며, 개발자나 데이터 과학자뿐만 아니라 비즈니스 의사결정자, 마케터, 기획자 등 AI를 이해하고 싶은 모든 직군을 대상으로 한다.

시험 자체는 약 45분에서 60분 내외로 진행되며, 객관식과 사례 기반 문제로 구성된다. 합격 기준은 700점(1000점 만점)으로, 어렵게 느껴질 수 있지만 제대로 준비한다면 충분히 도달할 수 있는 점수다. 시험 응시료는 국가마다 다르지만 한국 기준으로 대략 12만 원 내외이며, Microsoft Learn 플랫폼에서 무료 학습 자료를 제공하고 있어 추가 비용 없이 준비가 가능하다.

내가 이 시험을 선택한 이유는 단순했다. AI 관련 프로젝트에 참여하게 됐는데, 개념 자체가 너무 두루뭉술하게 알고 있다는 느낌이 들었다. ‘머신러닝이 뭔지’는 알겠는데 ‘딥러닝과 뭐가 다른지’, ‘Azure Cognitive Services는 어떤 용도로 쓰는지’ 같은 실질적인 질문 앞에서 막혔다. AI-900 커리큘럼이 딱 그 부분들을 체계적으로 다루고 있었기 때문에 선택했고, 지금은 그 결정을 잘했다고 생각한다.


시험 범위: 뭘 공부해야 하는가

AI-900의 시험 범위는 크게 다섯 가지 영역으로 나뉜다. Microsoft가 공식 발표한 비중을 기준으로 설명하면 다음과 같다.

1. AI 워크로드와 고려 사항 (15~20%)

이 파트에서는 AI가 어떤 문제를 해결하는 데 쓰이는지, 그리고 AI를 도입할 때 고려해야 할 책임 있는 AI 원칙이 무엇인지를 다룬다. Microsoft는 공정성(Fairness), 신뢰성과 안전성(Reliability & Safety), 프라이버시와 보안(Privacy & Security), 포용성(Inclusiveness), 투명성(Transparency), 책임성(Accountability)이라는 여섯 가지 책임 있는 AI 원칙을 강조한다.

처음 이 파트를 공부할 때는 ‘이게 시험에 실제로 나와?’ 싶었다. 근데 막상 시험장에서 문제를 보니 책임 있는 AI 관련 시나리오 문제가 생각보다 많이 나왔다. 단순 암기가 아니라 실제 상황에 원칙을 적용하는 방식으로 출제되기 때문에, 각 원칙이 현실에서 어떤 맥락으로 쓰이는지 이해하는 게 중요하다.

2. 머신러닝의 기초 원리 (20~25%)

이 파트가 AI-900의 핵심이라고 봐도 무방하다. 지도 학습(Supervised Learning), 비지도 학습(Unsupervised Learning), 강화 학습(Reinforcement Learning)의 차이를 이해하고, 각 학습 방법에서 쓰이는 대표적인 알고리즘과 평가 지표를 알아야 한다.

예를 들어 회귀(Regression)와 분류(Classification)의 차이, 클러스터링(Clustering)이 무엇인지, 그리고 Azure Machine Learning 서비스를 통해 이 작업들을 어떻게 수행하는지에 대한 개념이 등장한다. Azure ML Designer처럼 코드 없이 시각적으로 머신러닝 파이프라인을 구성하는 도구도 이 파트에서 다룬다.

내 경험상 이 파트에서 헷갈리는 부분이 과적합(Overfitting)과 과소적합(Underfitting) 개념이었다. 훈련 데이터에 너무 최적화된 모델이 실제 데이터에서는 성능이 떨어지는 현상이 과적합이고, 반대로 훈련 자체가 충분히 이루어지지 않아 훈련 데이터에서도 성능이 낮은 경우가 과소적합이다. 이 개념을 실제 사례와 연결지어 이해하면 문제 풀 때 훨씬 수월하다.

3. 컴퓨터 비전의 기초 (15~20%)

사진 속 물체를 인식하고, 얼굴을 감지하고, 이미지에서 텍스트를 추출하는 기술. 우리 일상 속에 이미 깊이 들어와 있는 이 기술들이 바로 컴퓨터 비전이다. AI-900에서는 Azure Cognitive Services의 Computer Vision, Face, Form Recognizer 서비스를 중심으로 이 개념들을 다룬다.

이미지 분류(Image Classification), 객체 탐지(Object Detection), 시맨틱 분할(Semantic Segmentation), 광학 문자 인식(OCR)의 차이를 이해하는 것이 핵심이다. 특히 시험에서는 “어떤 시나리오에 어떤 서비스가 적합한가”를 묻는 문제가 많이 나오기 때문에, 각 서비스의 용도를 명확히 구분해야 한다.

4. 자연어 처리(NLP)의 기초 (15~20%)

텍스트와 음성을 이해하고 생성하는 기술이 바로 자연어 처리다. 언어 번역, 감정 분석, 핵심 구 추출, 개체명 인식(Named Entity Recognition) 같은 개념들이 이 파트에서 나온다. Azure에서는 Azure Cognitive Services for Language, Azure Bot Service, Azure Cognitive Search 등이 관련 서비스로 등장한다.

이 파트에서 특히 챗봇 관련 개념이 흥미로웠다. QnA Maker(현재는 Azure AI Language로 통합)를 활용해 FAQ 기반 챗봇을 만드는 과정은 개념 이해뿐만 아니라 실무 활용 가능성도 높아 공부하면서 직접 만들어보고 싶다는 생각이 들었다.

5. 생성형 AI의 기초 (15~20%)

이 파트는 비교적 최근에 추가된 영역이다. GPT 같은 대형 언어 모델(LLM)의 기본 원리, Azure OpenAI Service의 기능, 프롬프트 엔지니어링의 기초 개념을 다룬다. 생성형 AI가 어떤 방식으로 텍스트를 생성하는지, 그리고 Copilot처럼 실무에 통합된 AI 도구들이 어떤 원리로 작동하는지를 이해하는 데 초점이 맞춰져 있다.

솔직히 이 파트는 ChatGPT나 Copilot을 평소에 쓰던 사람이라면 직관적으로 이해가 잘 된다. 오히려 개념보다 시험에 나오는 용어들이 낯설 수 있으므로 Azure OpenAI Service에서 쓰이는 공식 용어들을 정리해두는 게 도움이 됐다.


내가 짠 실제 공부 스케줄

나는 약 3주 동안 준비했다. 직장 다니면서 준비했기 때문에 하루에 1~2시간 정도가 최대였는데, 다음과 같이 구성했다.

1주차: 개념 기초 다지기 Microsoft Learn에서 제공하는 AI-900 공식 학습 경로를 순서대로 따라갔다. 무료이고 한국어 번역도 되어 있어 접근이 어렵지 않다. 다만 번역 품질이 일부 파트에서 어색한 경우가 있어서, 헷갈리는 부분은 영어 원문으로 다시 읽었다.

2주차: 실습과 기출 병행 Microsoft Learn의 샌드박스 환경을 활용해 Azure Cognitive Services를 직접 만져봤다. Computer Vision API에 내 사진을 넣어보거나, Translator로 문장을 번역해보는 식의 간단한 실습이었지만, 이게 개념 정착에 큰 도움이 됐다. 이론만 공부했을 때는 머릿속에 잘 안 들어오던 것들이 직접 해보니 훨씬 명확해졌다.

3주차: 모의고사 집중 MeasureUp, Whizlabs, Examtopics 등 다양한 모의고사 플랫폼을 활용해 실전 감각을 익혔다. 틀린 문제는 반드시 해설을 읽고 해당 개념으로 돌아가서 다시 정리하는 방식으로 반복했다. 모의고사 점수가 80% 이상 나올 때 시험을 예약했다.


실제 시험장에서 느낀 것들

시험은 온라인(Pearson VUE) 또는 오프라인 시험 센터에서 볼 수 있다. 나는 처음이라 오프라인 센터를 선택했는데, 신분증 지참과 개인 소지품 사물함 보관이 필수다.

문제 유형은 크게 세 가지였다. 단순 지식 확인형(“다음 중 지도 학습의 예시는?”), 시나리오 선택형(“이런 상황에서 어떤 Azure 서비스를 써야 하는가?”), 그리고 예/아니오 판단형이 섞여 있었다.

내가 시험에서 가장 어려웠던 부분은 비슷한 서비스 간의 차이를 묻는 문제였다. 예를 들어 Azure Machine Learning vs Azure Cognitive Services, Computer Vision vs Custom Vision의 차이처럼 이름이 비슷하거나 기능이 겹쳐 보이는 서비스들을 정확히 구분하는 능력이 요구됐다. 공부할 때 이 부분을 표로 정리해두면 실전에서 훨씬 유리하다.

결과는 합격. 점수는 850점대였는데, 생성형 AI 파트가 가장 자신 있었고, 머신러닝 평가 지표 관련 문제에서 조금 헷갈렸다.


AI-900을 합격하고 나서 달라진 것

자격증이 생기면 뭔가 드라마틱하게 달라질 거라고 기대했는데, 사실 그런 건 없다. 그보다 더 중요한 변화는 AI 관련 대화에 자신 있게 참여할 수 있게 됐다는 점이다. 회의 때 AI 도입 관련 얘기가 나오면 이전에는 그냥 듣기만 했는데, 이제는 “그 경우엔 Azure Cognitive Services의 Language 서비스가 적합할 것 같은데요”라는 식으로 구체적인 의견을 낼 수 있게 됐다.

그리고 이 자격증은 다음 단계로 가는 발판이 되기도 한다. AI-900 이후 관심사에 따라 DP-100(Azure Data Scientist Associate), AI-102(Azure AI Engineer Associate), 또는 DP-900(Azure Data Fundamentals) 같은 연계 자격증으로 이어질 수 있다. 나는 현재 AI-102를 준비 중인데, AI-900에서 쌓은 개념적 기반이 생각보다 큰 도움이 되고 있다.


AI-900 합격을 위한 핵심 팁 정리

수많은 합격 후기와 내 경험을 종합해 진짜 도움이 되는 팁만 추렸다.

첫째, Microsoft Learn을 절대 무시하지 마라. 유료 강의나 문제집도 좋지만, 공식 학습 경로가 시험 출제 기준과 가장 정확하게 맞닿아 있다. 공식 자료를 먼저 완주한 뒤 보완 자료를 활용하는 순서가 효율적이다.

둘째, 서비스 이름과 용도를 반드시 연결해서 기억하라. Azure에는 AI 관련 서비스가 정말 많다. Computer Vision, Custom Vision, Face, Form Recognizer, Translator, Text Analytics, QnA Maker, LUIS, Azure Bot Service, Azure ML, Azure OpenAI Service… 이름만 외우면 시험에서 헷갈린다. 각 서비스가 “무슨 문제를 해결하기 위해 존재하는지”를 중심으로 이해해야 한다.

셋째, 책임 있는 AI 파트를 절대 가볍게 보지 마라. 비중이 낮아 보여서 넘기는 경우가 많은데, 실전에서 생각보다 많이 나온다. 여섯 가지 원칙의 의미와 실제 사례를 정리해두면 배점 대비 효율이 높다.

넷째, 실습은 짧아도 반드시 해라. Azure 계정을 만들면 무료 크레딧이 제공되므로 직접 서비스를 사용해보는 경험이 중요하다. 개념이 훨씬 빠르게 정착된다.

다섯째, 모의고사는 최소 200문제 이상 풀어라. 시험 패턴에 익숙해지는 데는 양이 중요하다. 다양한 플랫폼의 문제를 두루 접하고, 틀린 문제 중심으로 반복 학습하는 것이 핵심이다.


마치며: AI 시대를 살아가는 방법

AI는 더 이상 개발자만의 영역이 아니다. 기획, 마케팅, 인사, 재무, 의료, 교육 등 모든 분야에서 AI를 이해하고 활용하는 능력이 요구되는 시대가 이미 왔다. AI-900은 그 시작점으로서 부담 없이 입문할 수 있는 최적의 자격증이라고 생각한다.

어렵게 생각할 필요 없다. 코딩 능력이 없어도, 수학을 못해도 준비할 수 있다. 중요한 건 AI가 어떻게 작동하는지, 어떤 문제를 해결하는 데 쓰이는지, 그리고 그것을 책임 있게 사용하려면 어떤 관점이 필요한지를 이해하는 것이다. 그 이해가 생기면 자연스럽게 시험도 통과하게 된다.

지금 이 글을 읽고 있는 당신이 AI-900을 준비 중이라면, 이 가이드가 실질적인 도움이 되길 바란다. 궁금한 점이 있다면 댓글로 남겨달라. 내가 아는 한 최대한 성실하게 답하겠다.


이 글은 실제 AI-900 시험 응시 경험을 바탕으로 작성되었습니다. Microsoft는 시험 내용을 주기적으로 업데이트하므로, 최신 시험 가이드는 Microsoft 공식 사이트에서 확인하시기 바랍니다.

위로 스크롤