Smart-Mews
Новости технологий, путешествий и культуры - все то что делает нашу жизнь лучше.

Заголовок: Шедеврум и понятие лояльности: что произошло и что можно ожидать?

14 August 2023 19:13

Заместитель председателя Совбеза РФ Дмитрий Медведев опробовал приложение «Шедеврум», созданное компанией «Яндекс», и остался озадачен его реакцией. Политик не смог понять, лояльна ли компания России или нет.

Приложение «Шедеврум» позволяет пользователям генерировать изображение на основе текстового описания, используя нейросети. Медведев решил попросить искусственный интеллект нарисовать картинку «русский с автоматом в руках». Приложение успешно выполнило задачу. Однако, когда Медведев ввел запрос «украинец с автоматом в руках», нейросети отказались рисовать такую картинку, объяснив это противоречием политике программы.

Медведев признался, что не знает, следует ли относить это к хорошему или плохому. Он указал на два противоположных аспекта данной ситуации. С одной стороны, возникает ощущение, что русских изображают как агрессоров и варваров, поэтому их можно рисовать с автоматами. С другой стороны, можно считать это нормальной реакцией, поскольку Россия может отвечать всем вызовам, в то время как враги даже не в состоянии владеть оружием.

Ранее Медведев сообщил, что после начала спецоперации на Украине вызовы и угрозы в сфере цифровой безопасности РФ значительно возросли. Он подчеркнул, что надежная работа всех информационных систем сейчас имеет особое значение.

На примере данного инцидента становится ясно, что влияние искусственного интеллекта на формирование общественного мнения и представлений о различных группах населения может быть существенным. В руках разработчиков таких технологий лежит ответственность за то, как они программируют ИИ и какие политические, этические и социальные ценности они им прививают.

Вариантов развития события может быть несколько. Во-первых, компания «Яндекс» может изменить политику своих нейросетей, чтобы они не отказывались отображать определенные образы в зависимости от национальности или происхождения. Такой подход позволил бы избежать политических и социальных разногласий, а приложение продолжило бы быть привлекательным для широкого круга пользователей.

Во-вторых, разработчики «Шедеврума» могут оставить политику нейросетей неизменной, придерживаясь установленных принципов. Это может вызвать критику и негодование со стороны определенных пользователей, но, с другой стороны, поощрять соотношение русских с позитивными ассоциациями, а не с вооруженной агрессией может быть полезным для формирования общественных представлений и доверия.

Мое мнение заключается в том, что в данной ситуации важно найти баланс между свободой самовыражения и уважением к различиям. Приложение «Шедеврум» имеет потенциал стать красивым и привлекательным инструментом, который не только помогает пользователю преобразовывать текстовые описания в визуальные образы, но и учитывает социальные и политические аспекты.

В заключение, влияние искусственного интеллекта на формирование образов и представлений становится все более заметным и важным в нашем информационно-технологическом мире. Разработчики и пользователи должны быть осведомлены о возможных этических и политических проблемах, связанных с такими технологиями, и сотрудничать для достижения баланса и взаимопонимания.

Это мнение экспертной группы о событии: Медведев сомневается в лояльности «Яндекса» и нейросети «Шедеврум» по отношению к России