По словам председателя правления Сбербанка Германа Грефа, ошибки в программных алгоритмах, которые использует крупнейший государственный банк России, привел к существенным материальным потерям.
Об этом президент Сбербанка заявил на сессии во вторник, 26 февраля, в рамках образовательного проекта "Урок цифры".
Герман Греф предупредил пришедших на урок детей о том, что "придется столкнуться с тем, что механическая работа будет вся занята машинами" и им "придется решать творческие задачи, в которых искусственный интеллект не силен". Глава Сбербанка также отметил, что пока использование систем искусственного интеллекта сопряжено с ошибками, которые могут дорого стоить крупным компаниям.
"Почему сегодня все начинают заниматься образованием? Потому что вам придется столкнуться с тем, что простая механическая работа вся будет занята машинами. И вам придется решать творческие задачи, в которых искусственный интеллект не силен. Или, как мы говорим – решение задач в условиях неопределенности – когда нет данных или мало данных. И в этом пока слабость искусственного интеллекта, потому что искусственный интеллект пока является слабым и узконаправленным. Общий или универсальный искусственный интеллект – пока задача будущего.
Футурологи нам говорят о том, что через 30–50 лет задача по созданию сильного или универсального искусственного интеллекта будет решена. Пока, честно сказать, в том аппаратном и программном обеспечении, в котором мы сегодня находимся, эту задачу решить достаточно тяжело. Еще, наверно, нужны будут серьезные научные исследования для того, чтобы перейти к такому сильному искусственному интеллекту. Машина еще не в состоянии оценивать правильность принимаемых ею решений – это еще одна проблема. Сейчас очень много ученых работает над тем, чтобы придать искусственному интеллекту возможность оценивания и самооценивания по поводу того, правильно ли они принимают те или иные решения.
Очень часто бывают ошибки. Если говорить о рисках – задавали вопрос о том, какие риски [несет в себе искусственный интеллект]. Искусственный интеллект, как правило, принимает решение в больших системах. Маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям. В нашей практике мы теряли большие деньги на этом – из-за того, что машина совершала маленькую ошибку на больших объемах, мы теряли миллиарды рублей. Потом, когда эта ошибка выявлялась, мы учились на ней, вставляли всевозможные фильтры для того, чтобы калибровать, модифицировать систему искусственного интеллекта".
