Ученых окончательно запутал искусственный интеллект

Вторник, 19 Декабрь 2017 10:55
Когда мы его поймем, может стать слишком поздно?.. Когда мы его поймем, может стать слишком поздно?..

Выступающие на конференции Neural Information Processing Systems специалисты в области искусственного интеллекта заявили, что перестали понимать принцип принятия решений, которым руководствуется ИИ. По мнению экспертов, принимать как должное действия ИИ без понимания его логики — как минимум, довольно легкомысленно...

 Ведь чтобы люди приняли модели машинного обучения, им нужно знать, чем именно руководствуется ИИ, решая, как именно ему следует поступить в конкретной ситуации.

"Часто решения, принятые ИИ, бывают предвзятыми, кроме того, его ассоциативное «мышление» тоже зачастую бывает не столь идеальным, в результате чего ИИ проводит неправильные аналогии. Такие ошибки могут дорого обойтись, если ИИ будет руководить сложными проектами, такими, к примеру, как полёт на Марс — в этом случае неверный поступок искусственного интеллекта может не только уничтожить дорогостоящее оборудование, но и повлечь за собой смерти людей. Поэтому, перед тем, как позволить ИИ самостоятельно принимать важные решения, необходимо сначала изучить принципы, которыми он руководствуется", — поясняет Мэтра Рагху, специалист по ИИ из Google.

На конференции она представила доклад, в котором описала процесс отслеживания действий отдельных частей нейросети. Отсматривая их по частям, можно понять логику ИИ, а затем, в случае чего, её и подкорректировать. Анализируя миллионы операций, она смогла выявить отдельные искусственные «нейроны», которые концентрировались на неверных представлениях, а затем отключить их, сделав ИИ более сговорчивым и правильным.

"Это чем-то похоже на то, как учитель подаёт какой-то материал, а затем просит ученика пересказать своими словами, что именно он понял из лекции", — поясняет Кири Вагстафф ИИ-эксперт из NASA.

Судя по результатам этого исследования, верно понять действия искусственного интеллекта не так уж и сложно. Главное — решить проблему до того, как станет слишком поздно.

Прочитано 135 раз

...

Похожие материалы (по тегу)

  • Китай поразил очередной технической новинкой

    В Китае в Нинся-Хуэйском автономном районе прошли испытания первого в стране беспилотного монорельса. Система, получившая название Yungui, была создана специалистами компаний BYD и Huawei. Состав передвигается на одном несущем рельсе на высоте около 4 метров над землей. Yungui позволяет развивать скорость до 80 км/ч.

  • Тайны мира: смертоносные технологии

    Лазерное оружие, установленное на корабли или самолёты, способное бесшумно уничтожить врагов лучом смерти. Электромагнитное оружие, концентрирующее энергию на объекте с целью причинить боль, физические разрушения или уничтожить электронику. Автономные системы летального воздействия, способные самостоятельно решать — в кого и когда выстрелить. Таковы примеры технологий, создаваемых, либо уже применяемых, в реальных столкновениях...

  • Тайны мира: искусственный интеллект

    В середине XX века и физики, и лирики ломали свои светлые головы над проблемой искусственного интеллекта: каким он будет и чем грозит человечеству? По крайней мере, на первый вопрос мы теперь знаем ответ. Искусственный разум — это компьютерная программа, загруженная в компьютер. Она делает расчеты, играет в шахматы, заставляет робота делать сальто. Со вторым вопросом несколько сложнее...

  • Тайны будущего: технологии убийства

    Сотрудники Института жизни будущего, среди которых числятся такие знаменитые фигуры, как Стивен Хокинг и Илон Маск, опубликовали весьма необычное видео, посвящённое невесёлому будущему, которое ждёт всех нас уже совсем скоро. Видео, снятое в документальном стиле, напоминает жуткий телесериал «Чёрное зеркало», создатели которого регулярно рассказывают зрителям, в какой кошмар может превратиться наша жизнь благодаря высоким технологиям...

  • Ученые: "Мозги умников работают по принципиально иной схеме!.."

    Различия умных и, скажем так, не очень преуспевающих в этом плане людей, объяснялись до сих пор главным образом различиями в определенных отделах головного мозга. Однако новое исследование демонстрирует, что мозги умных людей даже соединены иначе...