2027학년도 6월 모의고사 기하 30번 (2026년 시행), 삼각함수 없이 정사영과 방멱을 이용한 풀이 (feat. 아마도 모범답안)
올해 2026년 6월에 시행된 2027학년도 6월 모의고사 수학 기하 30번, 이등변삼각형과 두 내적 조건으로 원 위를 움직이는 점에 대한 내적의 최댓값과 최솟값을 구하는 문제를 살펴보겠습니다. 각을 잡아 삼각함수로 계산하는 풀이가 많은데, 여기서는 삼각함수 없이 푸는 법을 알려드리겠습니다.
문제는 아래와 같습니다.

2027학년도 6월 모의고사 수학 기하 30번 (한국교육과정평가원, 2026년 6월 시행)
1. 내적을 그림자로 이해하기
조건에 내적이 네 개 주어져 있고, 구하라는 값에 내적이 하나 들어 있습니다. 이 내적들을 성분이나 각으로 하나씩 계산하면 식이 길어지므로, 먼저 내적을 그림자의 길이로 이해하는 방법을 정리해보겠습니다.
두 벡터가 이루는 각의 크기를 θ 라 하면 내적은
입니다. 여기서 벡터 v 의 크기에 cos θ 를 곱한 값은 벡터 v 를 벡터 u 방향의 직선 위로 비춘 그림자(정사영)의 길이입니다. 즉, 두 벡터의 내적은 한 벡터의 길이와 다른 벡터의 그림자의 길이를 곱한 값입니다. (내적을 배울 때 교과서에서 배우는 기본 내용입니다.)
이 때, θ 가 둔각이면 그림자가 벡터 u 의 반대쪽으로 생기므로 그림자의 길이에 음의 부호를 붙여서 부호가 있는 길이로 봅니다.
2. 첫째 등식에서 D 의 위치
점 A 에서 선분 BC 에 내린 수선의 발을 H 라 하면, AB = AC 이므로 H 는 선분 BC 의 중점이고 변 BC 와 원의 교점입니다. 그리고 선분 BC 의 길이를 a, 선분 AH 의 길이를 h 라 하겠습니다.
첫째 등식의 좌변은 벡터 BA 를 직선 BC 위로 비춘 그림자로 생각하면, 점 A 의 그림자가 H 이므로 그림자는 선분 BH 이고 그 길이는 a/2 입니다.
우변도 같은 직선 위의 그림자로 읽으면, 벡터 CD 를 직선 BC 위로 비춘 그림자의 길이에 a 를 곱한 값이 a²/2 이므로 그 그림자의 길이도 a/2 입니다. 즉, 아래 그림과 같이 점 D 의 그림자는 점 C 에서 B 쪽으로 a/2 떨어진 점 H 입니다.

벡터 BA 와 CD 를 직선 BC 위로 비춘 그림자는 각각 BH, CH 이고 길이가 모두 a/2 라서 점 D 는 직선 AH 위에 있다
따라서 점 D 는 H 를 지나고 BC 에 수직인 직선, 곧 직선 AH 위에 있습니다.
직선 AH 는 선분 BC 의 수직이등분선입니다. 그리고 선분 AB 의 중점을 O 라 하면 선분 AB 의 수직이등분선은 O 를 지나고 AB 에 수직인 직선인데, 점 D 는 문제에서 이 직선 위에 있다고 했습니다. 그래서 아래 그림과 같이 점 D 는 두 수직이등분선의 교점, 곧 삼각형 ABC 의 외심입니다.

점 D 는 두 선분 BC, AB 의 수직이등분선의 교점, 곧 삼각형 ABC 의 외심이다
즉, DA = DB = DC 이고, ∠A 가 둔각이라서 외심 D 는 A 와 마주보는 삼각형의 바깥쪽에 있습니다.
3. 둘째 등식에서 AD 의 길이
둘째 등식의 두 내적에는 모두 직선 AD 방향의 벡터가 들어 있으므로, 이번에는 직선 AD 위의 그림자로 읽습니다. 직선 AD 는 BC 에 수직이므로 아래 그림과 같이 두 점 C, B 를 직선 AD 위로 비춘 그림자는 둘 다 H 입니다.

두 점 C, B 를 직선 AD 위로 비춘 그림자는 모두 H 라서 DH = 2AH 이다
D 가 H 너머에 있으므로 두 그림자 AH, DH 는 각각 벡터 AD, DA 와 같은 방향이고 부호는 모두 + 입니다.
두 값이 같으므로 양변을 AD 의 길이로 나누면
입니다.
4. h 계산
∠BOD = ∠BHD = 90° 이므로 네 점 B, O, H, D 는 선분 BD 를 지름으로 하는 한 원 위에 있습니다. 아래 그림의 옅은 보라색 원입니다.

네 점 B, O, H, D 는 한 원 위에 있고 두 직선 AB, AD 는 점 A 에서 이 원에 그은 할선이다
점 A 에서 이 원에 그은 두 할선은 각각 O, B 와 H, D 를 지나므로 방멱을 이용하면
입니다. O 는 선분 AB 의 중점이므로 AO = 1 이고, 앞에서 구한 AD = 3h 를 넣으면
입니다. 따라서 직각삼각형 ABH 에서
입니다.
5. 최댓값과 최솟값
점 X 가 움직이는 원의 중심은 선분 AB 의 중점 O 이고 반지름은 1 입니다. 벡터 DX 를 점 O 를 거치도록 나누면
이므로 구하는 내적은
입니다. 여기서 첫째 항은 상수이고, 점 X 가 움직일 때 달라지는 것은 둘째 항뿐입니다.
점 O 를 직선 BC 위로 비춘 그림자를 O′ 이라 하면, O 가 선분 AB 의 중점이므로 O′ 은 선분 BH 의 중점입니다. 따라서 HO′ = a/4 이고, 벡터 DO 의 그림자는 아래와 같이 H 에서 O′ 쪽으로 향합니다.

벡터 DO 의 직선 BC 위 그림자는 H 에서 O′ 쪽으로 향하고 BC 와 반대 방향이며 길이는 a/4 이다
벡터 BC 와 반대 방향이므로 부호는 음수입니다.
둘째 항에서 벡터 OX 의 길이는 1 이고 벡터 BC 의 길이는 a 이므로, 두 벡터가 같은 방향일 때 최댓값 a, 반대 방향일 때 최솟값 −a 가 됩니다.

벡터 OX 가 BC 와 같은 방향일 때 내적이 최대이고 반대 방향일 때 최소이다
따라서
입니다. a 는 무리수라서 M, m 을 따로 구하면 근호가 남지만, 두 값을 곱하면 합차 꼴이 되어 a² 만 남습니다.
a² = 40/3 을 넣으면
이므로 |M × m| = 20/9 이고 p = 9, q = 20 입니다. 따라서
입니다.
6. 요약
내적 조건은 정사영으로, 길이 계산은 방멱으로 처리해서 풀 수 있고, 원 위를 움직이는 점에 대한 내적은 벡터를 원의 중심을 거치도록 나누면, 일정한 항과 변하는 항을 구분해서 최대·최소를 구할 수 있습니다. 상세히 적어서 길어보이지만 실제로 풀어보면 오래 걸리지 않습니다.

이 글에서 다룬 문제의 저작권은 출제 기관·출제자에게 있으며, 학습과 비평을 목적으로 낱문항만 인용했습니다. 해설과 그림은 필자가 직접 작성한 것입니다. 삭제를 원하시면 rtshhw@naver.com 로 연락 주십시오.