Executive Summary
이 글은 신약 후보 분자를 그려 내는 AI가 엉뚱한 단백질에 붙는 것을 피하는지를 다룬다. 토론토대와 몬트리올대 연구진이 10월 16일 공개한 SELECTBENCH는 그동안 아무도 채점하지 않던 이 항목만 따로 떼어 내 아홉 모델을 다시 세웠다. 약이 목표한 단백질에만 붙고 다른 단백질은 피하는 성질을 선택성이라고 부르는데, 지금까지의 평가는 목표에 얼마나 잘 붙는지 한 가지만 봤다.
연구진이 내놓은 세 과제 가운데 가장 현장에 가까운 것은 부작용과 연관된 단백질 85종을 늘어놓고 거기에 붙지 않는지를 묻는 안전성 패널이다. 결과는 담담하다. 선택성을 겨냥해 따로 학습한 모델 둘도 보통 모델과 성적이 엇비슷했고, 만들어진 분자를 추론 단계에서 선택적인 쪽으로 밀어 주는 기법도 조금 보탰을 뿐이다.
4절까지는 논문과 공개된 평가 설정에 적힌 사실을 따라간다. 평가 항목이 없던 능력은 왜 모델에 생기지 않는지를 묻는 5절은 이 글의 해석이다.
주요 수치
앞의 둘은 이 벤치마크가 펼쳐 놓은 판의 크기이고, 뒤의 둘은 그 판에서 나온 성적이다.
출처: On the Selectivity of Generative Models in Structure-Based Drug Design(arXiv:2610.24124, 2026년 10월 16일)
85종
안전성 패널의 표적 밖 단백질 구조
부작용과 연관돼 제약 현장에서 걸러 보는 표적 77개를 담은 구조이고, 위험이 높은 우선순위 22종을 포함한다
9,900쌍
대규모 평가셋의 표적 짝
공개 도킹 자료 CrossDocked2020에서 자동으로 만들어 낸 표적과 표적 밖의 짝
28쌍
그중 어려움으로 분류된 짝
구조가 가장 닮아 정말 가려내야 하는 자리는 9,900쌍 가운데 이만큼이고, 이 구간은 전부 평가했다
50% 미만
엄격한 기준을 넘긴 분자 비율
표적을 표준편차 한 칸만큼 앞선 분자가 절반을 넘는 일은 추론 단계 기법을 걸고도 드물었다
잘 붙는다와 안전하다는 다른 말이다
구조 기반 약물 설계는 병을 일으키는 단백질의 주머니를 들여다보고 거기에 딱 들어맞는 작은 분자를 그려 내는 일이다. 열쇠 구멍을 먼저 보고 열쇠를 깎는 쪽에 가깝다. 요즘은 이 깎는 일을 생성 모델이 맡는다. 단백질 주머니의 삼차원 모양을 넣으면 모델이 거기 맞을 법한 분자를 원자 단위로 그려 낸다.
그런데 그 열쇠는 다른 문도 연다. 사람 몸 안에는 단백질이 수만 종 있고, 그중에는 목표로 삼은 단백질과 주머니 모양이 비슷한 것들이 섞여 있다. 깎아 낸 열쇠가 그 비슷한 주머니에도 들어가 버리면, 약은 하라는 일 말고 하지 말라는 일까지 한다. 우리가 부작용이라고 부르는 것의 상당 부분이 여기서 나온다.
부작용은 사소한 흠이 아니다. 임상 단계에 들어간 신약 후보 열 가운데 아홉이 끝내 승인을 받지 못하는데, 2010년부터 2017년까지의 임상 자료를 정리한 2022년 리뷰는 그 실패의 30% 정도를 감당하기 어려운 독성 탓으로 돌린다. 효능이 모자라서 떨어지는 쪽(40~50%) 다음으로 큰 몫이다. 목표에 잘 붙느냐만큼이나 다른 데 붙지 않느냐가 약의 운명을 가른다.
그런데 생성 모델은 이 두 번째 질문을 받아 본 적이 거의 없다. 논문의 진단은 간명하다. 대부분의 모델이 표적 하나에 대한 결합만 최적화하고 선택성은 고려하지 않는데, 학습 데이터가 제한적이고 표적 밖 상호작용은 알려져 있지 않기 때문이라는 것이다. 모델은 요구받은 것을 잘하게 된다. 선택성을 요구한 평가가 여태 없었다.
선택성은 무엇을 보고 채점하는가
SELECTBENCH가 한 일은 그 빈칸을 과제로 바꾼 것이다. 선택성이라는 한 덩어리를 성격이 다른 세 가지 상황으로 쪼개어, 각각 다른 잣대로 채점하게 했다. 세 과제는 난이도 순으로 늘어서 있는 것이 아니라 현장에서 마주치는 서로 다른 장면을 하나씩 맡는다.
| 과제 | 규모 | 어떤 장면인가 |
|---|---|---|
| SelectBench-Case | 5쌍 | PARP1/PARP2, CDK9/CDK2처럼 약을 만드는 사람들이 가르기 어렵다고 오래 씨름해 온 문헌 속 짝이다. 집안끼리 닮은 단백질을 떼어 놓는 가장 좁은 시험이다 |
| SelectBench-Safety | 표적 5종 × 표적 밖 85종 | 제약 회사가 후보 물질을 들고 실제로 돌리는 안전성 스크리닝을 본뜬 것이다. 부작용과 연관된 단백질 구조 85종을 한 패널에 모아 두고, 위험이 높은 우선순위 22종과 나머지 63종을 갈라 본다 |
| SelectBench-XL | 9,900쌍 | 공개 도킹 자료 CrossDocked2020에서 표적과 표적 밖의 짝을 자동으로 만들어 규모를 키웠다. 구조가 얼마나 닮았는지에 따라 쉬움·중간·어려움으로 갈랐다 |
▲ SELECTBENCH의 세 평가 과제. 출처: arXiv:2610.24124 재구성
첫 과제의 다섯 쌍은 그저 닮은 단백질을 모아 놓은 것이 아니다. 논문의 표에는 쌍마다 어떤 부작용이 따라붙는지가 함께 적혀 있다. 항암 표적 PARP1 옆의 PARP2는 혈액 독성, 항바이러스 표적 BMP2K 옆의 TTK는 혈액 독성과 호중구감소증, 항암 표적 CDK9와 MAPK1이 저마다 이웃으로 두는 CDK2는 혈액 독성과 위장관 문제, 신경정신 표적 DRD2 옆의 HRH1은 고혈압과 호중구감소증이다. 1절에서 말한 부작용이 여기서는 단백질 이름이 붙은 구체적인 자리로 바뀐다.
둘째 과제의 85라는 수에도 사연이 있다. 바탕은 약물 표적과 이상반응을 짝지어 정리한 공개 목록 Brennan-77이다. 한 표적을 막는 경우와 켜는 경우를 따로 봐야 하는 대목이 있어서, 표적 77개를 담는 데 단백질 구조는 85개가 들었다. 그중 22개 구조가 위험이 높다고 분류된 17개 표적에 해당하고, 논문이 본문에 실은 평가 결과는 이 우선순위 쪽을 기준으로 한다. 반대편에 세운 표적은 PARP1, FA7, 5HT1B, BRAF, JAK2 다섯이다.
세 번째 과제의 난이도 분포는 한 번 들여다볼 값어치가 있다. 9,900쌍 가운데 쉬움이 9,834쌍이고, 중간이 38쌍, 어려움이 28쌍이다. 난이도를 가른 잣대는 결합 자리의 구조가 얼마나 겹치는지를 재는 ProBiS라는 도구의 Z 점수이고, 값이 클수록 더 닮아서 더 어려운 쪽이다. 정말로 가려내기 어려운 자리는 전체의 1%에도 못 미친다. 규모를 키울수록 쉬운 문제가 함께 늘어나는 구조다. 아래는 그 세 칸을 실제 비율대로 그린 것이다.
다만 이 그림을 실제 평가한 구성으로 읽으면 안 된다. 논문은 쉬움 9,834쌍을 다 돌리지 않았다. 계산 부담 때문에 서로 겹치지 않는 20쌍짜리 묶음 다섯, 그러니까 100쌍만 추려 평가했다고 각주에 적어 뒀다. 중간 38쌍과 어려움 28쌍은 전부 돌렸다. 쉬운 문제가 머릿수로 평균을 끌어내리는 일은 이렇게 손으로 막아 놓은 셈인데, 뒤집어 말하면 모아 둔 쉬움 9,834쌍 가운데 실제로 쓰인 것은 100쌍뿐이라는 뜻이기도 하다.
연구진은 채점자를 둘 세웠다. 분자와 단백질을 컴퓨터로 끼워 맞춰 점수를 내는 도킹 프로그램 AutoDock Vina를 한 축으로 쓰고, 단백질과 분자가 함께 접힌 모양을 예측하는 모델 Boltz-2가 내놓는 결합 확률을 다른 축으로 썼다. 성격이 다른 두 채점자가 같은 방향을 가리키는지 보려는 설계다. 지표는 표적과 표적 밖의 점수 차이인 Δ-score를 바탕으로 삼고, 그 차이가 정해진 폭을 넘긴 분자의 비율(선택성율)과, 분자 하나를 두고 볼 때 표적 쪽 점수가 표적과 패널을 합친 전체 가운데 상위 20% 안에 드는 그런 분자의 비율, 그리고 한 분자가 패널에서 가장 못 피한 단백질에서의 점수 차이를 함께 본다.
점수는 날것 그대로 지표에 들어가지 않는다. 주머니마다 도킹 점수가 나오는 범위 자체가 달라서, 연구진은 표적마다 약처럼 생긴 기준 분자 128종을 먼저 끼워 넣어 그 주머니의 평균과 흩어짐을 재 두고 거기에 맞춰 점수를 환산했다. 이 환산을 거치지 않은 원점수로는 평균 Δ-score가 선택성의 방향조차 제대로 잡아내지 못하고 환산한 뒤에야 잡힌다는 것을, 논문은 이미 선택적이라고 알려진 분자를 넣어 확인해 보였다. 어느 잣대로 재느냐가 결론을 뒤집을 수 있다는 경고가, 벤치마크 안쪽에 먼저 들어 있다.
선택성을 배운 모델이 늘 앞서지는 않는다
시험대에 오른 모델은 아홉이다. 분자를 뿌옇게 흐트러뜨린 뒤 거꾸로 되돌리며 그려 내는 확산·흐름 계열이 다섯, 원자를 하나씩 이어 붙여 나가는 자동회귀 계열이 둘, 그리고 애초에 선택성을 목표에 넣고 학습한 모델이 둘이다. 앞의 일곱은 선택성을 염두에 두지 않았으니 못해도 이상할 게 없다. 뒤의 둘은 다르다. 이 둘이 나머지와 얼마나 다르냐가 이 벤치마크의 핵심 질문이다.
| 계열 | 모델 | 분자를 만드는 방식 |
|---|---|---|
| 확산·흐름 | DiffSBDD, DecompDiff, TargetDiff, MolForm, MolSnapper | 흐트러진 상태에서 시작해 주머니 모양에 맞춰 분자를 또렷하게 되돌린다 |
| 자동회귀 | Pocket2Mol, PocketFlow | 원자를 하나씩 놓아 가며 분자를 키운다 |
| 선택성 전용 학습 | CMD-GEN, SpecLig | 표적에 붙는 것뿐 아니라 표적 밖을 피하는 것까지 학습 목표에 넣었다 |
▲ SELECTBENCH가 평가한 생성 모델 아홉 종. 출처: arXiv:2610.24124 재구성
계열 사이의 승부부터 보면 결과는 비교적 또렷하다. 논문은 확산·흐름 계열이 선택성에서 자동회귀 계열을 대체로 앞선다고 결론짓는다. 까닭으로 든 것은 분자의 크기다. 원자를 하나씩 놓아 가는 Pocket2Mol과 PocketFlow가 꾸준히 더 작은 분자를 내놓는데, 작은 분자일수록 이 주머니에도 저 주머니에도 두루 들어맞기 쉽다. 잘 붙기만 하면 됐을 때는 흠이 아니던 습관이, 가려 붙으라는 요구 앞에서 불리하게 돌아선 셈이다.
핵심 질문의 답은 들쭉날쭉했다. 논문은 선택성을 겨냥해 설계된 방법들이 엇갈린 결과를 보인다고 적는다. 기준 모델보다 나을 때가 있지만 표적에 따라 성적 편차가 크다는 것이다. 모든 구간을 통틀어 보면 선택성 중심 방법들이 표준 모델과 대체로 대등하고 일관된 개선이 없다는 문장이 결론 쪽에 그대로 있다. 다만 평균이 전부는 아니다. 같은 대목은 성적이 좋은 상위 열 개 안에 꽤 선택적인 후보가 이따금 섞여 있다고도 적는다. 꾸준하지 않을 뿐 아예 못 만드는 것은 아니다.
어디서 잘하고 어디서 못하는지도 갈렸다. 부작용 단백질 85종을 늘어놓은 안전성 패널처럼 표적과 표적 밖이 서로 먼 자리에서는 선택성 학습이 보탬이 됐다. 반대로 PARP1과 PARP2처럼 한 집안에서 갈라져 나와 주머니 모양이 거의 같은 짝 앞에서는 그 보탬이 사라졌다. 정작 사람 손으로도 가르기 어려워 모델의 도움이 절실한 쪽이 거기인데, 성적이 무너지는 자리도 거기다.
안전성 패널 성적이 더 나아 보이는 데에는 기준의 느슨함도 섞여 있다. 여기서 쓰는 선택성율은 분자 하나를 패널 전체와 견준 평균으로 매기기 때문에, 패널에 든 단백질을 하나도 빠짐없이 따돌리라고 요구하지 않는다. 그 기준으로는 PARP1이나 BRAF, 5HT1B처럼 절반을 넘기는 표적이 여럿 나온다. 그런데 패널 안의 단 하나도 놓쳐서는 안 된다는 조건으로 바꿔 걸면, 논문의 표현 그대로 모든 방법의 성공률이 영에 가깝게 내려앉는다. 안전성 스크리닝이 현장에서 실제로 묻는 것은 뒤쪽 질문이다.
선택성을 학습했다는 꼬리표가 모든 난이도에서 같은 값을 하지는 않는다. 쉬운 구간에서 벌어 놓은 점수가 평균을 떠받치고, 어려운 구간에서 잃은 점수는 표본이 적어 평균에 잘 드러나지 않는다. 벤치마크를 난이도로 갈라 놓지 않았다면 이 둘은 한 숫자 안에서 서로를 지웠을 것이다.
만든 뒤에 걸러 내는 방법으로는 모자랐다
학습을 다시 시키는 것은 비싸다. 그래서 현장에서는 이미 학습된 모델을 그대로 두고 분자를 뽑아내는 순간에만 방향을 틀어 주는 방법을 자주 쓴다. 연구진은 그중 두 가지를 확산 계열 기준 모델 셋, DiffSBDD와 DecompDiff와 TargetDiff에 걸어 봤다. 하나는 원하는 조건 쪽으로 생성을 더 세게 끌어당기는 분류기 없는 지도이고, 다른 하나는 분자를 여럿 띄워 놓고 중간중간 점수가 나쁜 쪽을 버리며 좋은 쪽만 복제해 나가는 파인만-칵 보정이다. 뒤의 것은 그물을 넓게 던져 놓고 건지는 쪽에 가깝다.
효과가 없지는 않았다. 논문은 이 기법들이 대체로 완만한 개선을 가져온다고 적는다. 다만 바로 뒤에 붙은 문장이 이 절의 제목을 대신한다. 그런 개선에도 불구하고 가장 엄격한 기준을 통과한 분자의 비율은 낮게 머물러 50%를 넘는 일이 드물었다는 것이다. 여기서 엄격한 기준이란 표적 쪽 점수가 표적 밖보다 표준편차 한 칸만큼 앞서야 통과로 쳐 주는 선이다. 앞서 말한 기준 분자 128종이 그 주머니에서 흩어진 폭이 곧 한 칸의 길이다. 절반이 안 된다는 것은, 뽑아낸 분자를 그대로 들고 다음 단계로 넘어갈 수 없다는 뜻이다.
이 기법들이 제 몫을 하는 자리는 따로 있었다. 대규모 과제를 난이도별로 떼어 보면 가이던스의 효과는 중간과 어려움 구간에서 더 또렷하고 쉬움 구간에서는 흐릿하다. 쉬운 짝은 이미 갈라져 있어 더 밀어 줄 여지가 적기 때문이다. 그러니 이 기법들이 쓸모없다는 말은 아니다. 다만 쉬움에서 어려움으로 갈수록 선택성율은 한 번도 되돌아오지 않고 내려가고, 안전성 패널에서는 상위 20% 지표가 대체로 0.4를 넘지 못한다. 안전을 염두에 둔 생성은 아직 풀리지 않은 문제라고 논문은 이 대목에 적어 뒀다.
연구진 스스로 적어 둔 한계도 함께 읽을 만하다. 지금의 과제들은 단백질의 다른 자리에 붙어 모양을 바꾸는 방식으로 작용하는 경우를 다루지 않는다. 대규모 과제를 CrossDocked2020의 더 넓은 부분으로 키우면 규모와 다양성이 나아질 것이라는 말도 적혀 있는데, 어려움 구간이 28쌍뿐이라는 사정과 맞닿는 대목이다. 채점자를 더 들이는 것, 그리고 분자가 실제로 들어앉은 삼차원 자세가 물리적으로 말이 되는지까지 보는 것도 앞으로의 숙제로 남겨 뒀다.
페블러스가 이 벤치마크에 주목하는 이유
이 결과를 모델 탓으로 읽으면 절반만 읽은 것이다. 모델이 선택성을 못 챙긴 데에는 앞선 고리가 있다. 어떤 분자가 어떤 단백질에 붙었다는 기록은 실험이 성공했을 때 논문이 되고 데이터베이스에 쌓인다. 붙지 않았다는 사실은 대개 아무 데도 적히지 않는다. 그러니 표적 밖 상호작용을 적은 데이터가 모자라고, 데이터가 모자라니 채점표를 만들 수 없고, 채점표가 없으니 학습 목표로 세울 수가 없었다.
쓰임새를 정하지 않고 모은 데이터로는 쓰임새에 맞는 성적을 낼 수 없다. 결합 기록은 결합을 맞히는 데 쓰라고 모인 자료이지, 안전을 가리는 데 쓰라고 모인 자료가 아니다. 같은 분자와 같은 단백질을 담고 있어도, 무엇을 묻기 위해 모았느냐가 다르면 쓸 수 있는 질문의 범위가 달라진다. 이 차이는 데이터를 양으로만 셀 때는 보이지 않는다.
SELECTBENCH가 한 일 가운데 가장 값진 것은 점수를 매긴 것이 아니라 채점표를 만든 것이다. 비어 있던 자리에 과제와 지표를 세워 놓으면, 그때부터는 그곳을 채울 데이터를 모을 이유가 생긴다. 어떤 데이터를 더 모아야 하는지도 과제가 알려 준다. 쉬운 짝은 이미 9,834쌍이 있고 정작 아쉬운 것은 어려운 짝 28쌍이라는 사실은, 과제를 난이도로 갈라 세워 봤기 때문에 보인 것이다.
데이터를 쓸 수 있는 상태로 만드는 일은 결측을 메우고 라벨을 고르는 데서 끝나지 않는다. 이 데이터가 어떤 질문에 답하라고 모였는지를 먼저 적어 두는 것이 그 앞에 온다. 신약 설계는 그 간격이 유난히 크게 벌어지는 분야일 뿐, 간격 자체는 어느 분야에나 있다.
Editor's Note
이 논문에서 가장 오래 눈이 머문 곳은 성적표가 아니라 9,834와 28이라는 두 숫자가 나란히 적힌 줄이었다. 평가셋을 키우면 쉬운 문제가 함께 늘어난다는 사정은 신약 설계만의 일이 아니다. 자동으로 만들어 낸 평가 자료를 쓰는 곳이라면 어디서든 같은 모양으로 반복된다.
여기까지 읽어 주셔서 감사하다. 이 글의 사실관계는 arXiv에 공개된 논문 본문과 그 평가 설정, 그리고 임상 실패 원인을 정리한 공개 리뷰에서 확인했다. 쓰임새를 정하지 않고 모아 둔 데이터를 다른 질문에 쓰려다 막혔던 경험이 있다면 나눠 주시면 좋겠다.
(주)페블러스 데이터 커뮤니케이션팀
2026년 10월 21일
참고문헌
학술 논문
- 1.Rajaonson, E.M., Lee, J., Chau, W., Aspuru-Guzik, A., Sanchez-Lengeling, B., Beaini, D., Neklyudov, K., Skreta, M. (2026). "On the Selectivity of Generative Models in Structure-Based Drug Design." arXiv:2610.24124.
- 2.Sun, D., Gao, W., Hu, H., Zhou, S. (2022). "Why 90% of clinical drug development fails and how to improve it?" Acta Pharmaceutica Sinica B, 12(7), 3049–3062.
- 3.Francoeur, P.G., Masuda, T., Sunseri, J., Jia, A., Iovanisci, R.B., Snyder, I., Koes, D.R. (2020). "Three-Dimensional Convolutional Neural Networks and a Cross-Docked Data Set for Structure-Based Drug Design." Journal of Chemical Information and Modeling, 60(9), 4200–4215.
공식 자료·업계 보도
- 4.lovetaro. "SelectBench." GitHub (벤치마크 코드·데이터 공개 저장소).
- 5.ASBMB Today (2022). "90% of drugs fail clinical trials." (Sun et al. 2022 재인용 해설 기사)