감소함수와 그 역함수의 그래프의 교점은 직선 y = x 밖에도 있다, 2025 센텀여고(센텀동백고) 1학년 2학기 기말고사 공통수학2 11번
오늘은 작년 2025년 센텀여고(센텀동백고) 1학년 2학기 기말고사 공통수학2 11번, 구간에 따라 다르게 정의된 함수와 그 역함수에 대한 <보기> 문제를 살펴보겠습니다. 함수의 그래프와 역함수의 그래프의 교점을 직선 y = x 위에서만 찾으면 선지 ㄷ 을 틀리게 되는 문제입니다.
문제는 아래와 같습니다.

2025 센텀여고(센텀동백고) 1학년 2학기 기말고사 공통수학2 11번
1. 함수 f(x) 의 그래프
함수 f(x) 는 x ≤ 0 에서 기울기가 −7 인 직선이고 x > 0 에서 기울기가 −2/3 인 직선입니다. x = 0 을 두 식에 넣으면 모두 2 가 나오므로 그래프는 점 (0, 2) 에서 이어집니다.

y = f(x) 의 그래프는 점 (0, 2) 에서 이어지고 x 의 값이 커지면 함숫값은 항상 작아진다
두 직선의 기울기가 모두 음수라서 x 의 값이 커지면 f(x) 의 값은 항상 작아집니다. 그래서 f 는 실수 전체의 집합에서 일대일대응이고 역함수 g 가 존재합니다. 이렇게 x 의 값이 커질 때 함숫값이 작아지는 함수를 감소함수라고 합니다.
ㄴ 에서 쓰기 위해 함숫값의 범위도 먼저 확인해 두겠습니다.
그래프에서 x ≤ 0 이면 f(x) ≥ 2 이고, x > 0 이면 f(x) < 2 입니다.
2. ㄱ. 합성함수의 값
6 > 0 이므로 f(6) 은 x > 0 의 식으로 계산합니다.
−2 ≤ 0 이므로 f(−2) 는 x ≤ 0 의 식으로 계산합니다.

6 은 양수라서 x > 0 의 식으로, −2 는 0 이하라서 x ≤ 0 의 식으로 계산한다
따라서
이고 ㄱ 은 참입니다.
3. ㄴ. 역함수의 함숫값
g(23) 을 계산하려면 역함수 g 의 식이 있어야 할 것 같지만 역함수의 뜻만으로 구할 수 있습니다. g 는 f 의 역함수이므로 g(23) = a 라 하면 f(a) = 23 입니다. 즉, g(23) 의 값은 방정식 f(x) = 23 의 해입니다.
앞에서 확인한 것처럼 함숫값이 2 이상이면 x ≤ 0 이므로 x ≤ 0 의 식을 써서
입니다. 즉, g(23) = −3 입니다.
다음으로 g(−3) 의 값은 방정식 f(x) = −3 의 해입니다. −3 < 2 이므로 x > 0 의 식을 써서
입니다. 마지막으로 g(15/2) 의 값은 방정식 f(x) = 15/2 의 해이고, 15/2 ≥ 2 이므로 x ≤ 0 의 식을 써서
입니다.

g 의 화살표를 거꾸로 읽으면 f 이므로 방정식 f(x) = 23, f(x) = −3, f(x) = 15/2 를 차례로 풀면 된다
따라서
이고 ㄴ 도 참입니다.
4. 역함수 g(x) 의 그래프
ㄷ 은 두 그래프로 둘러싸인 부분의 넓이를 묻고 있어서 y = g(x) 의 그래프를 그려야 합니다. 역함수의 식은 y = f(x) 에서 x 와 y 를 서로 바꾼 다음 y 에 대하여 정리하면 되고, 이때 x 와 y 의 범위도 함께 바뀝니다.
x ≤ 0 의 식
에서 x 와 y 를 서로 바꾸면
이므로
입니다. 같은 방법으로 x > 0 의 식
에서
입니다.
함수의 그래프와 그 역함수의 그래프는 직선 y = x 에 대하여 대칭이므로 두 그래프는 아래 그림과 같습니다. y = f(x) 의 그래프가 점 (0, 2) 에서 꺾이므로 y = g(x) 의 그래프는 점 (2, 0) 에서 꺾입니다.

y = f(x) 의 그래프와 역함수 y = g(x) 의 그래프는 직선 y = x 에 대하여 대칭
5. ㄷ. 두 그래프의 교점
둘러싸인 부분을 알려면 두 그래프의 교점부터 구해야 합니다. 함수의 그래프와 그 역함수의 그래프의 교점은 보통 직선 y = x 위에서 찾습니다. 방정식 f(x) = x 를 풀면 x > 0 에서
이고, x ≤ 0 에서는 −7x + 2 = x 의 해가 x = 1/4 이라서 범위에 맞지 않습니다. 즉, 직선 y = x 위의 교점은 (6/5, 6/5) 하나입니다.
그런데 문제에서는 둘러싸인 부분이 두 개라고 했습니다. 교점이 하나뿐이면 둘러싸인 부분이 생길 수 없으므로 직선 y = x 밖에 교점이 더 있어야 합니다. 실제로 그림에서 y = f(x) 의 그래프 중 x ≤ 0 인 부분과 y = g(x) 의 그래프 중 x < 2 인 부분이 제2사분면에서 만납니다.
이므로 교점은 (−2/11, 36/11) 입니다. 두 그래프가 직선 y = x 에 대하여 대칭이므로 이 점을 직선 y = x 에 대하여 대칭이동한 점 (36/11, −2/11) 도 교점입니다.

두 그래프의 교점은 직선 y = x 위에 하나, 직선 y = x 밖에 두 개
y = f(x) 의 그래프 중 x ≤ 0 인 부분과 y = g(x) 의 그래프 중 x ≥ 2 인 부분은 x 의 범위가 겹치지 않아서 만날 수 없고, 나머지 세 경우에서 직선끼리 한 번씩 만나므로 교점은 이 세 개가 전부입니다.
6. 둘러싸인 부분의 넓이
세 교점 사이에 둘러싸인 부분이 두 개 생깁니다. 두 그래프가 직선 y = x 에 대하여 서로 대칭이므로 두 부분도 서로 대칭이고 넓이가 같습니다.

두 그래프로 둘러싸인 두 부분은 직선 y = x 에 대하여 서로 대칭인 삼각형
그래서 왼쪽 부분의 넓이만 구해서 두 배 하면 됩니다. 왼쪽 부분은 교점 (−2/11, 36/11), y = f(x) 의 그래프가 꺾이는 점 (0, 2), 교점 (6/5, 6/5) 을 꼭짓점으로 하는 삼각형입니다.
이 삼각형은 어느 변도 좌표축과 평행하지 않아서 밑변과 높이를 바로 정하기 어렵습니다. 그래서 y축으로 삼각형을 둘로 나누겠습니다. y = g(x) 의 그래프가 y축과 만나는 점은 (0, 3) 이므로 y축 위의 두 점 (0, 2), (0, 3) 을 이은 선분이 두 삼각형의 공통인 밑변이고 그 길이는 1 입니다. 이때 두 삼각형의 높이는 두 교점에서 y축까지의 거리이므로 각각 2/11, 6/5 입니다.

y축 위의 길이 1 인 선분을 공통인 밑변으로 하면 두 삼각형의 높이는 2/11 와 6/5
따라서 왼쪽 부분의 넓이는
이고, 두 부분의 넓이의 합은
입니다. ㄷ 도 참입니다.
옳은 것은 ㄱ, ㄴ, ㄷ 입니다. 즉, 답은 ⑤ 입니다.
7. 요약
f 가 감소함수라서 y = f(x) 의 그래프와 역함수 y = g(x) 의 그래프가 직선 y = x 위에서 한 번, 직선 y = x 밖에서 두 번 만났고, 둘러싸인 두 부분이 직선 y = x 에 대하여 대칭이라서 한쪽 삼각형의 넓이만 y축으로 나누어 구한 다음 두 배 했습니다. 함수의 그래프와 역함수의 그래프의 교점을 묻는 경우가 시험에 자주 나오는데 감소함수일 때는 직선 y = x 밖에도 교점이 있는지 꼭 확인해야 합니다.
참고로, x 의 값이 커질 때 함숫값도 커지는 증가함수에서는 역함수의 그래프와의 교점이 직선 y = x 위에만 있습니다. 교점을 (p, q) 라 하면 f(p) = q 이고 f(q) = p 인데, p < q 라면 f(p) < f(q) 에서 q < p 가 되어 모순이고 p > q 일 때도 마찬가지라서 p = q 일 수밖에 없습니다. 감소함수에서는 p < q 일 때 f(p) > f(q), 즉 q > p 가 되어 모순이 생기지 않으므로 이 문제처럼 직선 y = x 밖에서도 만날 수 있습니다.
이 센텀여고 1학년 2학기 기말고사 공통수학2 전체 세트 풀이 해설은 알티쌤 아카이브에 있습니다.

이 글에서 다룬 문제의 저작권은 출제 기관·출제자에게 있으며, 학습과 비평을 목적으로 낱문항만 인용했습니다. 해설과 그림은 필자가 직접 작성한 것입니다. 삭제를 원하시면 rtshhw@naver.com 로 연락 주십시오.