챗GPT가 대중화되면서 '질문 잘 하는 법'이 중요해졌다. "구체적으로 물어라", "예시를 들어라", "역할을 부여하라" 등등 질문을 잘 하는 법을 배웠다. 같은 내용을 물어도 질문 표현을 조금만 바꾸면 답변의 질이 달라졌기 때문이다. 이른바 '프롬프트'의 기술이다.
하지만 AI가 일상 곳곳에 스며들면서 단순히 질문을 잘 하는 것만으로는 부족해졌다. 최근 실리콘밸리와 글로벌 기업들은 '컨텍스트 엔지니어링(Context Engineering)'에 주목하고 있다.
컨택스트(Context)란 맥락이다. 컨택스트 엔지니어링이란 그 질문이 나오게 된 배경과 조건, 쉽게 말해 '전후 좌우 앞뒤 맥락' 을 잘 제시하는 것이다. AI 시대에 업무 처리는 한 번의 대화가 아니라 지속적인 협업을, 즉흥적인 질문이 아니라 체계적인 시스템을 요구하기 때문이다.
예를 들어보자. 직장인 김민수 씨는 매일 아침 AI 어시스턴트에게 이메일 초안 작성을 지시한다. 처음에는 "공손한 톤으로 회의 일정 조율 이메일 써줘"라고 했다. AI는 문법은 완벽한 이메일을 작성했지만, 뭔가 어색했다. 민수씨의 평소 말투도 아닐 뿐 더러 상대방과의 관계나 이전 대화 맥락이 전혀 반영되지 않았다.
이제 민수씨는 다르게 접근한다. AI에게 회사의 커뮤니케이션 문화, 자신의 직급과 역할, 상대방과의 관계, 프로젝트 진행 상황, 심지어 지난주 회의에서 나왔던 이슈까지, 자신의 '업무 맥락'을 제공한다. 이런 맥락을 알아야 AI는 실제로 '김민수가 쓸 법한' 이메일을 작성할 수 있기 때문이다.
컨택스트 엔지니어링은 단순히 AI에게 작업을 지시하는 것이 아니라, AI가 최선의 판단을 내릴 수 있는 환경 자체를 설계하는 것에 가깝다.
프롬프트 엔지니어링이 '어떻게 물을까'에 집중한다면, 컨텍스트 엔지니어링은 '어떤 세계를 보여줄까'에 집중하는 것도 차이점이다.
"20대 여성을 타겟으로 한 비건 화장품 광고 카피를 작성해줘. 톤은 밝고 경쾌하게, 50자 이내로." 가 프롬프트 엔지니어링이라면, 컨택스트 엔지니어링은 AI에게 브랜드 아이덴티티, 최근 6개월간의 성공적인 캠페인 데이터, 타겟 고객의 SNS 반응 분석, 경쟁사 동향, 그리고 현재 시즌 트렌드를 우선 제공한다. 그리고 묻는다. "이 맥락에서 우리 브랜드가 할 수 있는 최선의 메시지는 무엇일까?"
프롬프트 엔지니어링이 AI를 도구로 쓰는 것이라면 컨택스트 엔지니어링은 AI를 전략 파트너로 만드는 것에 가깝다.
컨택스트 엔지니어링이 급부상한 이유는 다양하지만 무엇보다 AI의 협업수준과 협업 량이 현저하게 늘고 있기 때문이다. 예컨대 고객센터 챗봇은 이제 단순히 FAQ를 안내하는 수준을 넘어, 고객의 구매 이력과 문의 패턴을 분석해 맞춤형 솔루션을 제안한다. 이를 위해서는 고객 데이터, 제품 정보, 회사 정책 등 방대한 맥락이 필요하다.
폭발적으로 증가하는 정보량의 영향도 크다. 의료 AI는 환자의 병력, 최신 연구 논문, 유사 증례를 종합해 진단을 보조하고 법률 AI는 계약서를 검토할 때 유사 판례, 최신 법령 개정, 업계 표준 조항을 실시간으로 검색해 맥락에 포함시킨다. 이런 방대한 정보 확장 시스템을 'RAG(검색 증강 생성)'이라 부르는데, 핵심은 결국 '적절한 맥락 구성'이다.
결국 AI 활용의 일관성과 품질을 관리하려면 구성원 개개인의 제각각 프롬프트 작성을 통해 얻은 들쭉날쭉한 결과보다는 조직 차원에서 표준화된 컨텍스트 시스템을 구축해 일정 수준 이상의 결과를 보장하는 것이 용이하다. 글로벌 기업, 대형 로펌, 컨설팅 회사들이 컨텍스트 엔지니어링 팀을 신설하는 이유다.
사실 컨택스트 엔지니어링은 완전히 새로운 개념이 아니다. 우리는 이미 일상에서 맥락적 사고를 하고 있다.
가족 식사를 간다고 하자. 달랑 "4명, 7시 예약이요" 라고 말하기 보다는 "4명인데 70대 부모님 모시고 가요. 어머니가 계단 불편하신 데 1층 자리 가능할까요? 조용했으면 하는데... 그리고 맵거나 자극적인 것도 피했으면 하고요, 7시쯤 예약하면 주차는 가능하겠죠?" 한다. 요구 사항을 확실한 전달과 원하는 결과를 얻으려면 전후 좌우 맥락 설명이 최선임을 우리는 본능적으로 알고 있다.
AI 시대는 이 본능을 의식적인 기술로 전환할 것을 요구한다.
흔히 우리는 '알작딱깔센' 부하를 선호한다. 알아서 잘하고 딱 깔끔하고 센스 있었으면 하는 이기적인 바람 때문이다. 하지만 아무런 맥락 없이 툭 던진 지시에도 입안의 혀처럼 일을 해치우는 사람은 없다.
더구나 AI는 인간처럼 눈치로 상황을 파악하지도 못한다. 회의실의 미묘한 분위기, 프로젝트 뒤에 숨은 정치적 역학, 고객의 말투에 담긴 불만을 저절로 감지하지 못한다. AI에게 이런 맥락을 제공하는 것은 전적으로 우리의 몫이다.
더 중요한 건, 맥락적 사고 능력이 단순히 AI를 잘 쓰는 기술을 넘어선다는 점이다. 맥락적 사고력은 복잡한 세상을 이해하고, 사람들과 효과적으로 소통하고, 더 나은 의사결정을 내릴 수 있도록 한다. 뉴스에서 "최저임금 인상 발표"라는 헤드라인을 보고, 자영업자의 입장, 알바생의 입장, 경제학자의 입장, 정책 입안자의 입장을 동시에 고려할 수 있다면, 당신은 이미 맥락적 사고를 하고 있는 것이다. 이 같은 다면적인 사고는 자칫 편향되기 쉬운 AI시대에 균형 잡힌 시각을 유지하게 만드는 본질이기도 하다.
그렇다면 우리는 어떻게 맥락적 사고와 컨택스트 엔지니어링 능력을 키울 수 있을까?
컨텍스트 엔지니어링의 핵심은 산재한 정보를 의미 있는 구조로 조직하는 능력이다. 정보를 의미 단위로 묶고, 계층을 만들고, 관계를 정의하는 능력. 이는 전통적인 문서 작성이나 데이터베이스 설계 와도 통하지만, AI 시대에는 더욱 중요해진다.
우선 매일 접하는 정보를 네 가지로 분류하는 습관을 들여보자. 배경 지식(왜 이런 일이 생겼나?), 핵심 사실(정확히 무슨 일인가?), 영향이나 의미(우리에게 어떤 의미?), 액션(내가 할 수 있는 것?)을 의식적으로 따져보는 훈련을 한다. 예컨대 "금리 인상 뉴스"를 봤다면, 배경은 무엇이며(인플레이션 억제 위해), 사실(기준금리 0.25%p 인상), 영향(내 대출 이자 증가), 액션(변동금리 대출 고정금리 전환 검토)으로 정리해 보는 것이다.
쓸데없는 정보와 유용한 정보를 구분하는 큐레이션 능력도 키워야 한다. 많은 정보가 항상 좋은 것은 아니다. AI의 처리 용량에도 한계가 있고, 불필요한 정보는 오히려 판단을 흐린다. 일상에서 큐레이션 능력을 훈련하는 좋은 방법은 의사결정 체크리스트를 작성해보는 것이다. 왜 필요한지, 언제 쓸 건지, 교체 이유는 뭔지, 예산 범위 내인지 리뷰는 확인했는지, 반품 정책 어떠 한지를 확인해보다 보면 자연스럽게 "어떤 맥락이 중요한가"를 체득하게 된다.
컨텍스트는 고립된 정보가 아니라 연결된 시스템이다. 평소 업무에서 '이것은 무엇과 연결되어 있나?', '이 결정은 다른 무엇에 영향을 주나?'를 질문하는 습관을 들이면 단편이 아닌 전체를 보는 시스템적 사고력을 키울 수 있다.
맥락적 사고력을 AI에게도 적용시켜야 컨택스트 엔지니어링 능력을 키울 수 있다. AI에게 질문할 때는 사전에 3초간 멈추어 "왜 이걸 물어보지?"를 자문한다. 그리고 AI가 답하는 데 필요한 배경 정보를 업무 맥락 문서로 만드는 훈련을 하는 것이 큰 도움이 된다.
컨텍스트 엔지니어링은 기술이기 이전에 사고방식이다. 복잡한 세상을 이해 가능한 구조로 만들고, 산재한 정보를 의미 있는 이야기로 엮고, 기계가 아닌 인간의 관점에서 가치를 정의하는 능력이다.
더 중요한 것은, 맥락적 사고가 AI를 잘 쓰는 것을 넘어 더 나은 인간이 되는 길이기도 하다는 점이다. 타인의 입장을 이해하고, 상황의 전체 그림을 보고, 표면 너머의 진짜 문제를 파악하는 능력. 이야말로 AI가 대체할 수 없는, 인간만의 고유한 가치가 아닐까?
AI 시대의 문해력은 단순히 AI를 '사용'하는 것을 넘어, AI와 함께 '생각'하는 능력이다. 그리고 그 핵심에 컨택스트 엔지니어링이 있다.
◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등
