844
Сучасна наука дедалі більше залежить від складних цифрових інструментів — великих мовних моделей, супутникових систем, автоматичних сенсорів, трекерів тварин, онлайн-платформ і приватних баз даних. Вони дозволяють аналізувати обсяги інформації, які ще кілька років тому були практично недоступними. Проте міжнародна група дослідників звернула увагу на іншу сторону такого прогресу: частина критично важливих етапів аналізу тепер відбувається всередині систем, роботу яких самі науковці не завжди можуть повністю перевірити.
Такі інструменти автори називають науковими «чорними скриньками». Система може видавати результат, придатний для подальшого аналізу, але при цьому приховувати вихідні дані, алгоритм їхньої обробки, навчальну вибірку або окремі внутрішні рішення.
Особливо помітною ця проблема стала в екології та дослідженнях біорізноманіття, де вчені працюють із величезними масивами просторових і часових даних.
Де виникає проблема «чорної скриньки»
Великі моделі штучного інтелекту — лише один із прикладів. Дослідник може використати таку систему для розпізнавання видів на фотографіях, класифікації супутникових знімків або аналізу змін екосистем, але не знати повного складу навчальних даних і не мати можливості перевірити кожен етап роботи алгоритму.
Схожа ситуація виникає із комерційними супутниковими продуктами. Науковець може отримати вже готову карту рослинності, температури чи землекористування, хоча початкові супутникові вимірювання перед цим пройшли складну обробку.
Різні постачальники можуть по-різному коригувати знімки, видаляти хмари, класифікувати поверхню або заповнювати відсутні дані. Якщо ці процедури детально не описані, два дослідники можуть вважати, що працюють із однаковим показником, хоча насправді використовують продукти, створені різними методами.
Навіть автоматичні трекери тварин не завжди передають ученим повний набір інформації. Пристрій може реєструвати значно більше первинних сигналів, але користувач отримує лише готові координати або вже оброблену траєкторію.
Окремий ризик створюють пошукові системи та соціальні мережі. Їх використовують для вивчення поведінки людей, поширення інформації та суспільних реакцій, але алгоритми рекомендацій, правила модерації та програмні інтерфейси таких платформ регулярно змінюються.
Через це вибірка даних у багаторічному дослідженні може непомітно змінитися навіть тоді, коли самі науковці не змінювали методику.
Чому відтворити результат стає складніше
Одним із базових принципів науки є можливість перевірити роботу іншої групи. Якщо дослідник описав свої дані та методи, інші науковці повинні мати змогу повторити аналіз і перевірити, чи отримають вони схожий результат.
Із закритими цифровими інструментами це стає складніше. Якщо невідомо, як саме система перетворила початкові дані на кінцевий результат, відтворити весь ланцюжок аналізу неможливо.
При цьому автори не стверджують, що використання закритої програми або штучного інтелекту автоматично робить дослідження ненадійним.
Проблема виникає тоді, коли науковець не може визначити, де саме могли з’явитися похибки, наскільки результат залежить від прихованого алгоритму і чи зміниться він після оновлення зовнішнього сервісу.
Складність також не завжди є наслідком навмисної закритості. Деякі сучасні системи настільки великі й багаторівневі, що навіть їхні розробники не можуть детально пояснити кожну внутрішню взаємодію.
Як науковцям пропонують зменшувати ризики
Автори радять за можливості використовувати програми й обладнання з відкритим кодом, де методи обробки можна перевірити незалежно.
Якщо дослідження залежить від закритого інструменту, його результати варто порівнювати з іншими методами або перевіряти на відкритих контрольних наборах даних.
Не менш важливо детально фіксувати, якою саме версією програми або моделі користувалися науковці, які налаштування були встановлені та коли отримували доступ до зовнішнього сервісу.
Для довготривалих досліджень це особливо важливо. Онлайн-платформа, алгоритм або API через кілька років можуть працювати вже інакше, тому без такої документації відтворити початкові умови буде практично неможливо.
Головна рекомендація дослідників полягає не у відмові від нових цифрових технологій. Навпаки, вони дозволяють проводити аналіз, який раніше був недоступний. Проте разом із потужністю таких інструментів має зростати й увага до того, наскільки прозоро можна простежити шлях від початкових даних до наукового висновку.
Джерело: Phys.org / University of Exeter
