AI可靠性工具瞄准抗生素发现瓶颈

研究人员推动让抗生素AI更值得信赖

昆士兰大学的一个研究团队表示，在抗生素发现中使用人工智能的最大障碍之一并非原始预测能力，而是信任。在发表于《化学信息学杂志》的研究中，该团队开发了一个框架，旨在测试AI系统在推荐化合物作为潜在抗生素时，能否提供可靠的推理。

目标问题十分严峻。抗菌素耐药性正在削弱现有药物的有效性，而新抗生素的研发管线多年来一直举步维艰。这给加速早期发现带来了压力，同时不能引入新的错误来源。研究人员认为，AI有潜力加速这项工作，但前提是科学家能够理解模型为何得出特定结论。

这一担忧在药物开发中尤为突出，因为错误的信心会浪费时间、消耗稀缺的实验室资源，并让团队误入歧途。昆士兰大学的研究人员将问题归结为对许多机器学习系统作为“黑箱”运作的常见批评：它们给出答案，但无法提供可靠的解释说明如何得出该答案。

高风险领域中的黑箱问题

昆士兰大学超级细菌解决方案中心的Abdulmujeeb Onawole博士表示，对可解释AI的需求并非学术性的。耐药细菌已经是一个重大的全球健康威胁，而AI系统推理能力差可能导致研究人员优先考虑错误的分子，或误读细微化学变化的影响。

在传统药物化学中，这些细微变化至关重要。分子结构的微小改变可能使化合物效力大幅增强、减弱，或不再适合作为候选药物。如果AI模型将某个化合物标记为有前景，但无法正确识别驱动该预测的特征，科学家可能得到一个看似有吸引力但经不起实验检验的输出。

新框架旨在解决这一差距。研究人员不仅测试模型能否区分有前景的化合物和差的化合物，还测试模型的解释是否与化学上有意义的模式一致。换句话说，他们试图衡量模型是否出于正确的理由得出了有用的结论。

框架如何测试

在这项研究中，团队使用先前已针对金黄色葡萄球菌（一种与严重感染相关且是抗生素耐药性研究中常见关注的细菌）评估过的化合物数据集，构建了三个AI模型。然后，该框架检查了每个模型处理两项要求较高的可解释性任务的表现。

第一项任务是识别已知对抗生素活性重要的药物结构。第二项任务涉及解释所谓的“活性悬崖”，即微小的化学变化导致生物有效性大幅变化的情况。这些悬崖是一个困难的测试，因为它们揭示了模型能否捕捉到化学上重要的细节，而不是依赖广泛的统计关联。

同样来自昆士兰大学超级细菌解决方案中心的Johannes Zuegg博士表示，结果显示所有三个模型在识别已知抗生素结构方面表现尚可。但它们在解释分子为何具有活性方面差异显著。这一区别是论文价值的核心：如果研究人员无法确定系统的内部逻辑是否可靠，那么仅凭强大的模式识别可能不够。

因此，该研究主张在AI辅助药物发现中采用更高标准。作者实际上是在问，AI输出能否经受专家质疑，而不是将模型准确性作为唯一基准。在实际操作中，这可以帮助研究团队决定哪些系统适合支持药物化学决策，哪些不适合。

这对抗生素开发为何重要

抗生素发现成本高昂、进展缓慢且充满死胡同。任何能缩小搜索范围的技术都很有吸引力，但跟随误导性线索的代价异常高昂。一个在总体上看似准确的模型，如果其预测建立在虚假模式上，仍可能是危险的，尤其是当这些预测影响哪些化合物被合成或进入生物测试时。

这使得可解释性不仅仅是一种技术偏好。它成为科学风险的一个过滤工具。如果一个框架能揭示AI模型何时识别出正确的活性结构驱动因素，研究人员可能更愿意在实际工作流程中使用它。如果它显示模型产生了令人信服但化学上不合理的解释，该模型可以在造成下游浪费之前被降级。

正如研究人员所描述的，其前景是机器智能与实验室科学之间更明智的合作。AI可以帮助科学家更快行动，但前提是人类仍能判断机器的推理是否足够可靠以值得信任。从这个意义上说，该框架与其说是取代专家判断，不如说是让AI输出可被专家审计。

审慎的一步，而非最终解决方案

该研究并未声称抗生素发现的瓶颈已被解决，也未暗示可解释AI会自动产生新药。它提供的是评估AI系统是否值得在如此敏感的研究阶段占有一席之地的方法。这是一个更窄的主张，但很重要，因为围绕AI在生命科学中的热情往往超过了对工具是否足够可靠以用于实际决策的实践问题。

这项工作也反映了应用AI研究的更广泛转变。随着模型进入医学、化学、保险、基础设施和其他受监管或安全关键的领域，仅凭性能指标已不再足够。机构越来越需要证据表明系统的输出可以被领域专家解释、质疑和验证。

对于抗生素研究，这种需求可能会加剧。耐药性持续上升，对新疗法的探索面临越来越大的压力。如果AI要帮助加速发现急需的抗生素，像这样的框架可能成为决定哪些模型真正准备好进入实验室的基础设施的一部分。

本文基于Medical Xpress的报道。阅读原文。