ШІ може допомогти швидше створювати нові ліки, але водночас здатен вигадувати результати, яких насправді не існує. Такі помилки можуть ввести вчених в оману під час досліджень і призвести до хибних висновків.
Про це інформує РБК-Україна з посиланням на наукове дослідження, опубліковане у фаховому віснику Patterns.
Алгоритми дедалі частіше використовують для моделювання клітин, проєктування білків і добудовування прогалин у складних аналізах.
Проте системи ШІ схильні до "галюцинацій" -вони створюють переконливі, але абсолютно вигадані структури чи висновки .
Про цю загрозу попередив обчислювальний біолог Тома Бюргер із Університету Гренобль-Альп. Чому помилки ШІ стають небезпечними?
Науковець пояснює: коли штучний інтелект лише шукає потрібні молекули серед тисяч варіантів, ризик невеликий. Якщо алгоритм помилиться, науковці просто змарнують час на перевірку в реальній лабораторії, де неефективну речовину одразу відсіють.
Проблема стає критичною, коли штучно згенеровані дані починають замінювати справжні лабораторні вимірювання .
Читайте більше : OpenAI розв'язала задачу на мільйон і потрапила в гучний науковий скандал
Як саме?
Приховане перекручування : під час обробки великих масивів інформації ШІ може непомітно змінити або підсилити слабкий сигнал. Науковцям вкрай складно помітити таку підробку у фінальних звітах.
Ілюзія відкриття : алгоритм додає до результатів вигадані деталі, а вчені починають вірити, що знайшли новий спосіб лікування.
Втрата реальних ліків : модель може внести стільки зайвого "шуму" у результати, що дослідники просто не помітять справді дієву речовину. Збої AlphaFold 3
Із цими ризиками науковці вже зіштовхуються на практиці. Наприклад, розробники популярної системи AlphaFold 3 у журналі Nature визнали, що їхній алгоритм інколи вигадує неіснуючі форми білків.
Водночас науковці зазначають, щопомилка ШІ теоретично може надіслати підказку і випадково наштовхнути на реальне відкриття .
З усім тим,будь-яка ідея чи формула від штучного інтелекту залишається лише здогадкою, поки її не перевірять на реальному досліді у лабораторії .
Ще більше цікавого : Скандальна заява розробника: людство втратить контроль над ШІ за кілька років Віруси, отрути та хакерство: Anthropic викрила небезпечні маніпуляції з Claude