Журнал компьютерной инженерии и информационных технологий

Самоорганизованное потенциальное обучение: расширение знаний SOM для обучения контролируемых нейронных сетей с улучшенной производительностью интерпретации и обобщения

Рётаро Камимура

Самоорганизованное потенциальное обучение: расширение знаний SOM для обучения контролируемых нейронных сетей с улучшенной производительностью интерпретации и обобщения

В настоящей статье предлагается новый тип метода обучения, называемый «самоорганизующимся потенциальным обучением», для улучшения производительности обобщения и интерпретации. В этом методе самоорганизующаяся карта (SOM) используется для получения знаний (знаний SOM) о входных шаблонах. Знания SOM иногда избыточны и не обязательно эффективны при обучении многослойных нейронных сетей . Настоящий метод представлен для того, чтобы сосредоточиться на наиболее важной части знаний, которая извлекается путем рассмотрения потенциальности нейронов. Для первого приближения потенциальность определяется в терминах дисперсии нейронов. Затем нейроны с большим потенциалом выбираются в качестве важных для использования в контролируемом обучении. Метод был применен к трем проблемам, а именно к искусственным данным , реальным данным обучения второму языку и данным биовырожденности в базе данных машинного обучения . Во всех случаях было обнаружено, что с точки зрения дисперсии потенциальность была эффективна при извлечении небольшого количества важных входных и скрытых нейронов. Затем эффективность обобщения значительно улучшилась, в частности, когда потенциал входных и скрытых нейронов рассматривался с легко интерпретируемыми весами связей.