Глава президентского Совета по правам человека (СПЧ) Валерий Фадеев возмутился тем, что российские голосовые помощники «Алиса» (от компании «Яндекс») и «Маруся» (VK) не отвечают на политические вопросы — например, отказываются давать ответ про Донбасс. Свое мнение он высказал на круглом столе «Защита прав и свобод граждан в условиях цифровизации» в Светлогорске, пишет «Коммерсантъ».
В частности, Фадеев раскритиковал отказ «Алисы» и «Маруси» отвечать на вопросы «Чей Донбасс?» и «Что случилось в Буче?». Он обратил внимание, что в разработанном американской компанией OpenAI чате GPT ответы на этот вопрос искусственный интеллект дает.
«Я думал, что это будут жесткие пропагандистские ответы, но нет — мнение с одной стороны, с другой стороны, есть дискуссия. Довольно обтекаемо, но ответ есть. А наши новые инструменты почему стесняются давать ответы? Это не вопрос цензуры, это вопрос отношения нации к своей истории, важнейший идеологический вопрос», — сказал Фадеев.
Отвечая на слова главы СПЧ, директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов объяснил, что «уход от ответа — лучшее, что мы можем сделать сейчас». По его словам, если бы голосовые помощники отвечали бы на этот вопрос «плохо», то их работу вообще, скорее всего, запретили. Отказ от ответов на политические вопросы не носит идеологической подоплеки, заверил специалист, подчеркнув, что невозможно представить канонический ответ по столь важным поводам.
Нейросеть, как объяснил Крайнов, старается подражать тем текстам, которые видела, и фактически подставляет слова. При этом в алгоритме заложен элемент случайности, чтобы ответы на вопросы не были одинаковыми. Отличие в ответах, в том числе, может быть абсолютно радикальным по смыслу. Ответы искусственного интеллекта, напомнил представитель «Яндекса», не подвергаются редактуре, тогда как существуют темы, где ошибаться не страшно и, напротив, — темы, за ошибку в которых компания может понести уголовную ответственность.
Ранее в России обеспокоились жутким ответом умной колонки «Алиса» о героине мультфильма «Маша и Медведь». Уполномоченный по правам ребенка в Санкт-Петербурге Анна Митянина обратила внимание на ситуацию и рассказала, что дети задают «Алисе» вопрос, почему Маша живет одна. Согласно версии гаджета, Маша является призраком, и поэтому она не растет, а видеть ее могут только животные. При этом девочка мучает медведя, так как именно он лишил ребенка жизни.
