Искусственный интеллект вышел из-под контроля!

Все ближе к пропасти

Игры человека с ИИ могут привести к серьезным проблемам. Машины могут захватить власть на Земле. Это может произойти из-за непонимания ситуация теми, кто занимается разработками в сфере ИИ. Продолжать исследования можно только в том случае, если имеется полный и уверенный контроль за всем, что делают нейросети.
Однако анализ последних событий в мире ИИ говорит об том, что человек постепенно утрачивает функции контролера. Искусственный разум стремится обходится без него. Это прослеживается в эксперименте, когда Фейсбук тестировала роботов-переговорщиков. Оказалось, что боты, общаясь между собой, создали свой язык, совершенно не понятный людям. Сейчас работы над этим проектом полностью свернуты.
Еще одной новостью стало заявление ведущих экспертов в области ИИ на мероприятии Neural Information Processing Systems. Они сообщили, что перестали понимать, как работает механизм принятия решений искусственного разума. Этот момент очень важен в разработках, ведь не зная, чем будет руководствоваться ИИ в конкретной ситуации, невозможно прогнозировать правильность его решений и их последствия.
Они же предложили и решение. Предлагается изучать поведение отдельных участков нейросетей и корректировать их в случаях отклонений. Это напоминает принцип, реализованный в школе, когда преподаватель рассказывает тему ученикам, а, затем, выслушивает их интерпретации.
В любом случае, нужно осознавать степень опасности доминирования ИИ и машин на его основе. Дальнейшие работы разумно проводить только после изучения всех «белых пятен» и выяснения даже незначительных нюансов.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *