+7 (345)256-83-55
Инженерные изыскания
Проектная документация
Услуги инжиниринга
Автономный город под управлением ИИ может привести к построению несправедливой системы
Авторский материал
О возможности такой перспективы рассуждает группа исследователей, изучающих вопрос ИИ-урбанизма. Эксперт, участвовавший в исследовании, рассказал порталу The Conversation ключевые моменты при управлении городом с помощью искусственного интеллекта, которые могут усугубить социальные и этнические проблемные вопросы.
В рамках международного проекта, изучающего влияние ИИ на города, ученые заложили основу для новой области исследования под названием “ИИ-урбанизм”. Данная концепция отличается от понятия “умного города”. Умные города собирают информацию с помощью различных сенсоров и датчиков. Затем технологии используют данные для операционного управления и стремятся обеспечить бесперебойную работу городских служб.
В свою очередь, ИИ-урбанизм представляет собой новый способ формирования городов и управления ими. Данный метод существенно отличается от современных моделей развития и управления городами. Все действия, которые совершают жители городов, учат технологию ИИ чему-то ценному о нашем мире. То, как вы водите свой автомобиль или передвигаетесь на велосипеде, помогает обучить ИИ. Например, собранная и проанализированная информация позволит развить автономные транспортные средства.
То, что мы потребляем и покупаем, рассказывает системам ИИ о наших предпочтениях. Если умножить эти индивидуальные записи на миллиарды людей, живущих в городах, то можно осознать, какой объем данных может собрать и проанализировать ИИ в городских условиях.
Предиктивная полиция
Согласно традиционной концепции умных городов, технология по типу Интернета вещей использует подключенные датчики для наблюдения и количественной оценки происходящего. Например, “умные” здания могут подсчитать, сколько энергии мы потребляем, а технологии реального времени — определить, сколько людей пользуются метро в каждый момент времени. В свою очередь, ИИ-урбанизм не просто дает количественные показатели, он стремится объяснить, почему и как происходят те или иные события.
Речь идет не о сложных повествованиях со стороны ИИ, но даже простая предиктивная аналитика может иметь существенные последствия. Например, разработанная в США система искусственного интеллекта Palantir уже используется в нескольких городах, чтобы предсказывать, где будут происходить преступления и кто в них будет замешан.
Эти прогнозы могут использоваться правоохранительными органами для определения того, куда направить ресурсы. Прогнозирование полицейских ействий — это одна из самых спорных возможностей, которые технологии ИИ получают в рамках ИИ-урбанизма: способность определять, что правильно или неправильно, кто “хороший” или “плохой” в городе.
Как показал недавний пример ChatGPT, ИИ может составить подробный отчет, не понимая его смысла. Это аморальный интеллект, в том смысле, что он безразличен к вопросам добра или зла. И все же это именно тот вопрос, который мы все чаще делегируем ИИ-технологиями в городском управлении. Данные подходы могут сэкономить время градоначальников, но цена, которую мы платим с точки зрения социальной справедливости, огромна.
Этические и социальные проблемы
ИИ-урбанизм неизбежно столкнется с вопросами этики и социальной справедливости. Недавние исследования показали, что принятые искусственным интеллектом решения ущемляют расовые меньшинства в сфере жилья и недвижимости. Такая проблема выходит на первый план, поскольку ИИ-технологии лишены морального сознания, однако принимают решения, влияющие на жизнь людей.
И рост влияния ИИ в городском управлении возникает не потому что технология вышла из под контроля и стремится поработить людей — как обычно показывают в фантастических фильмах. ИИ-урбанизм становится результатом осознанного человеческого выбора. Градоначальники охотно передают часть своих обязанностей по принятию решений машинам, и в разных частях света уже можно наблюдать зарождение новых автономных городов, где управление будет осуществляться только посредством ИИ.
Примером этой тенденции может служить проект города Neom в Саудовской Аравии. В Neom появятся новые городские пространства, включая город-линию The Line, управляемые множеством систем ИИ. По замыслу разработчиков, Neom должен стать образцом городской устойчивости. В подобных городах появятся самоуправляемые автомобили, готовящие еду роботы, предсказывающие ваше поведение и потребности алгоритмы.
Однако важно помнить, что автономность — это игра с нулевой суммой. По мере роста влияния ИИ в городском управлении, влияние людей на этот процесс будет уменьшаться. Так, город под управлением ИИ может поставить под вопрос потребности заинтересованных лиц, а также благополучие многих людей.
Сможет ли человек претендовать на ипотечный кредит и приобрести жилье, чтобы растить семью? Сможет ли человек чувствовать себя защищенным в городе? Что будет, если человек попадет в список подозреваемых? Уже сегодня ответственные за решение этих вопросов службы ориентируются на ответы со стороны ИИ. В будущем, если автономность достигнет максимального уровня, ИИ может стать единственным арбитром в социальных вопросах.
Прожорливость технологии
Следует также учитывать значительные экологические издержки, поскольку ИИ-технологии являются энергоемкими. По прогнозам, в ближайшие десятилетия они внесут значительный вклад в выбросы углекислого газа в технологическом секторе, а инфраструктура, необходимая для поддержания этих систем, потребляет критически важное сырье. ИИ, казалось бы, обещает многое с точки зрения устойчивости, но если посмотреть на его реальные затраты и применение в городах, то негативные стороны могут легко перевесить положительные.
Поэтому необходима общественная дискуссия: действительно ли нам нужен ИИ, чтобы сделать города устойчивыми?
В свою очередь, ИИ-урбанизм представляет собой новый способ формирования городов и управления ими. Данный метод существенно отличается от современных моделей развития и управления городами. Все действия, которые совершают жители городов, учат технологию ИИ чему-то ценному о нашем мире. То, как вы водите свой автомобиль или передвигаетесь на велосипеде, помогает обучить ИИ. Например, собранная и проанализированная информация позволит развить автономные транспортные средства.
То, что мы потребляем и покупаем, рассказывает системам ИИ о наших предпочтениях. Если умножить эти индивидуальные записи на миллиарды людей, живущих в городах, то можно осознать, какой объем данных может собрать и проанализировать ИИ в городских условиях.
Предиктивная полиция
Согласно традиционной концепции умных городов, технология по типу Интернета вещей использует подключенные датчики для наблюдения и количественной оценки происходящего. Например, “умные” здания могут подсчитать, сколько энергии мы потребляем, а технологии реального времени — определить, сколько людей пользуются метро в каждый момент времени. В свою очередь, ИИ-урбанизм не просто дает количественные показатели, он стремится объяснить, почему и как происходят те или иные события.
Речь идет не о сложных повествованиях со стороны ИИ, но даже простая предиктивная аналитика может иметь существенные последствия. Например, разработанная в США система искусственного интеллекта Palantir уже используется в нескольких городах, чтобы предсказывать, где будут происходить преступления и кто в них будет замешан.
Эти прогнозы могут использоваться правоохранительными органами для определения того, куда направить ресурсы. Прогнозирование полицейских ействий — это одна из самых спорных возможностей, которые технологии ИИ получают в рамках ИИ-урбанизма: способность определять, что правильно или неправильно, кто “хороший” или “плохой” в городе.
Как показал недавний пример ChatGPT, ИИ может составить подробный отчет, не понимая его смысла. Это аморальный интеллект, в том смысле, что он безразличен к вопросам добра или зла. И все же это именно тот вопрос, который мы все чаще делегируем ИИ-технологиями в городском управлении. Данные подходы могут сэкономить время градоначальников, но цена, которую мы платим с точки зрения социальной справедливости, огромна.
Этические и социальные проблемы
ИИ-урбанизм неизбежно столкнется с вопросами этики и социальной справедливости. Недавние исследования показали, что принятые искусственным интеллектом решения ущемляют расовые меньшинства в сфере жилья и недвижимости. Такая проблема выходит на первый план, поскольку ИИ-технологии лишены морального сознания, однако принимают решения, влияющие на жизнь людей.
И рост влияния ИИ в городском управлении возникает не потому что технология вышла из под контроля и стремится поработить людей — как обычно показывают в фантастических фильмах. ИИ-урбанизм становится результатом осознанного человеческого выбора. Градоначальники охотно передают часть своих обязанностей по принятию решений машинам, и в разных частях света уже можно наблюдать зарождение новых автономных городов, где управление будет осуществляться только посредством ИИ.
Примером этой тенденции может служить проект города Neom в Саудовской Аравии. В Neom появятся новые городские пространства, включая город-линию The Line, управляемые множеством систем ИИ. По замыслу разработчиков, Neom должен стать образцом городской устойчивости. В подобных городах появятся самоуправляемые автомобили, готовящие еду роботы, предсказывающие ваше поведение и потребности алгоритмы.
Однако важно помнить, что автономность — это игра с нулевой суммой. По мере роста влияния ИИ в городском управлении, влияние людей на этот процесс будет уменьшаться. Так, город под управлением ИИ может поставить под вопрос потребности заинтересованных лиц, а также благополучие многих людей.
Сможет ли человек претендовать на ипотечный кредит и приобрести жилье, чтобы растить семью? Сможет ли человек чувствовать себя защищенным в городе? Что будет, если человек попадет в список подозреваемых? Уже сегодня ответственные за решение этих вопросов службы ориентируются на ответы со стороны ИИ. В будущем, если автономность достигнет максимального уровня, ИИ может стать единственным арбитром в социальных вопросах.
Прожорливость технологии
Следует также учитывать значительные экологические издержки, поскольку ИИ-технологии являются энергоемкими. По прогнозам, в ближайшие десятилетия они внесут значительный вклад в выбросы углекислого газа в технологическом секторе, а инфраструктура, необходимая для поддержания этих систем, потребляет критически важное сырье. ИИ, казалось бы, обещает многое с точки зрения устойчивости, но если посмотреть на его реальные затраты и применение в городах, то негативные стороны могут легко перевесить положительные.
Поэтому необходима общественная дискуссия: действительно ли нам нужен ИИ, чтобы сделать города устойчивыми?
ИИ-урбанизм
Получите развернутую консультацию и коммерческое предложение уже сегодня
Остались вопросы?
Я ознакомлен(а) с политикой обработки персональных данных, размещенной на сайте, и даю согласие на обработку персональных данных.
ООО "ПРОМЫШЛЕННЫЙ
КОНСАЛТИНГ"
КОНСАЛТИНГ"
info@pk-tmn.ru
+7 (345) 256-83-55
625023, Тюменская обл.,
г. Тюмень, ул. Одесская, д.9
г. Тюмень, ул. Одесская, д.9
