Ученые разработали программное обеспечение для анализа работы нейронных сетей

Сегодня нейронные сети широко используются для анализа сложных данных – например, чтобы найти ключи к лечению болезней, используя генетическую информацию. Однако никто не знает, как на самом деле работают эти сети, представляющие собой, в некотором смысле, «черные ящики». Именно поэтому исследователи из Института Фраунгофера разработали программное обеспечение, которое позволяет заглянуть внутрь этих «черных ящиков» и проанализировать, как они функционируют.

Новый метод позволяет следить за работой нейронных сетей в обратном порядке, начиная от результата. Так, ученые могут наблюдать, где именно определенная группа нейронов приняла определенное решение, и насколько сильно это решение повлияло на результат. Специалисты представят свое программное обеспечение на выставке CeBIT в Ганновере с 20 по 24 марта 2021 года.