Физики-теоретики намеренно вводили в заблуждение интеллектуальные машины

До сих пор эти искусственные нейронные сети использовались в машинном обучении с известным критерием принятия решений: мы знаем, что такое водоем и какие последовательности ходов были успешными в турнирах по го.Отделение пшеницы от мякиныТеперь группа ученых, работающая под руководством Себастьяна Хубера, профессора теории конденсированных сред и квантовой оптики в ETH Zurich, расширила области применения этих нейронных сетей, разработав метод, который не только позволяет категоризировать любые данные, но и распознает, могут ли сложные наборы данных содержат категории вообще.

Вопросы такого рода возникают в науке: например, метод может быть полезен для анализа измерений с ускорителей частиц или астрономических наблюдений. Таким образом, физики могли отфильтровать наиболее многообещающие измерения из часто неуправляемого количества данных измерений. Фармакологи могут извлекать молекулы с определенной вероятностью наличия определенного фармацевтического эффекта или побочного эффекта из больших молекулярных баз данных.

А специалисты по данным могут отсортировать огромные массы беспорядочной ряби данных и получить полезную информацию (интеллектуальный анализ данных).Искать границуИсследователи ETH применили свой метод к интенсивно исследуемому явлению теоретической физики: многочастичной системе взаимодействующих магнитных диполей, которая никогда не достигает состояния равновесия — даже в долгосрочной перспективе. Такие системы были описаны недавно, но еще не известно подробно, какие квантово-физические свойства предотвращают переход системы многих тел в состояние равновесия.

В частности, неясно, где именно проходит граница между системами, которые достигают равновесия, и системами, которые этого не делают.

Чтобы определить местонахождение этой границы, ученые разработали принцип «действовать как будто»: взяв данные из квантовых систем, они установили произвольную границу на основе одного параметра и использовали ее для разделения данных на две группы. Затем они обучили искусственную нейронную сеть, делая вид, что одна группа достигла состояния равновесия, а другая нет.

Таким образом, исследователи действовали так, как если бы они знали, где находится граница.Ученые запутали системуОни обучили сеть бесчисленное количество раз, каждый раз с разными границами, и протестировали способность сети сортировать данные после каждого сеанса. В результате во многих случаях сеть изо всех сил пыталась классифицировать данные, как это сделали ученые.

Но в некоторых случаях разделение на две группы было очень точным.Исследователи смогли показать, что эффективность сортировки зависит от местоположения границы. Эверт ван Ньювенбург, докторант в группе Хубера, объясняет это следующим образом: «Выбирая тренировку с границей, далеко от фактической границы (которой я не знаю), я могу ввести сеть в заблуждение.

В конечном итоге мы». неправильное повторное обучение сети — и неправильно обученные сети очень плохо классифицируют данные ". Однако, если случайно выбрана граница, близкая к фактической границе, создается высокоэффективный алгоритм. Определив производительность алгоритма, исследователи смогли отследить границу между квантовыми системами, которые достигают равновесия, и теми, которые этого не делают: граница расположена там, где эффективность сортировки сети наиболее высока.

Исследователи также продемонстрировали возможности своего нового метода, используя два дополнительных вопроса из теоретической физики: топологические фазовые переходы в одномерных твердых телах и модель Изинга, которая описывает магнетизм внутри твердых тел.Категоризация без предварительного знания

Новый метод также можно проиллюстрировать в упрощенной форме с помощью мысленного эксперимента, в котором мы хотим разделить красные, красноватые, голубоватые и синие шары на две группы. Мы предполагаем, что не имеем представления о том, как может выглядеть такая классификация.Если нейронная сеть обучается, говоря ей, что разделительная линия находится где-то в красной области, это запутает сеть. «Вы пытаетесь научить сеть, что синие и красные шары — это одно и то же, и просите ее различать красные и красные шары, что она просто не может сделать», — говорит Хубер.С другой стороны, если вы поместите границу в фиолетовый цветовой спектр, сеть узнает фактическую разницу и сортирует шары на красные и синие группы.

Однако не нужно заранее знать, что разделительная линия должна находиться в фиолетовой области. Сравнивая производительность сортировки на различных выбранных границах, эта граница может быть найдена без каких-либо предварительных знаний.