В статье разбираются алармы от Кевина Славина, очень умного и харизматичного человека.

Кевин Славин

Известный технолог, писатель, эксперт по науке о данных, утверждает, что мы живем в мире, созданном для алгоритмов и все больше контролируемом ими. Он обсуждает, как алгоритмы формируют наш мир и какое потенциальное влияние они могут оказать на нашу жизнь.
Как разработчик и соучредитель компании по разработке игр, Славин живет в Algoworld, который он описывает как постоянно расширяющуюся среду в нашей жизни, определяемую и управляемую алгоритмами.

Перечислим проблемы, которые он подчеркивает, (про достоинства мира алгоритмов все более-менее понятно).

Отсутствие прозрачности.
Славин отмечает, что пишется код, который уже не читается, а это значит, что мы не знаем всего, что происходит на самом деле.
Отсутствие прозрачности может затруднить понимание и контроль алгоритмов, формирующих наш мир. Такие компании, как Nanex в Бостоне, сейчас занимаются повторным открытием созданных алгоритмов, подчеркивая необходимость лучшего понимания и прозрачности алгоритмической системы.

Алгоритмическое принятие решений в различных областях, а также сложность и непредсказуемость алгоритмов.
Славин говорит о том, что алгоритмы, хотя и могут быть мощными и эффективными, могут также создавать сложности и осложнять предсказания и прогнозы. Он обращает внимание на алгоритмические торговые системы на финансовых рынках, которые могут приводить к неожиданным колебаниям и скачкам цен. Кризис 2008 года.

Преобразование математики из средства обустройства существующего мира в средство его формирования.
Интеграция алгоритмов в различные аспекты жизни трансформирует значение математики. Славин подчеркивает, как математика претерпела трансформацию из того, что извлекается и выводится из мира, в то, что фактически его формирует.

Непредвиденные последствия.
Славин предупреждает, что посредством кодирования мы создаем системы, которые могут повлиять на нас так, как мы не ожидали и не можем контролировать.

Славин призывает к пониманию и осознанному взаимодействию с алгоритмами, чтобы они продолжали отражать наши ценности и предпочтения. Он подчеркивает необходимость осмысленного использования алгоритмов и контроля за ними, чтобы они служили интересам и целям человечества и призывает к широкому обсуждению и участию в формировании этих систем для обеспечения социальной справедливости и этичного использования алгоритмов.