София, мудрость нечеловеческая

Герман Греф, известный любитель всего высокотехнологичного, в Давосе пригласил на деловой завтрак Сбербанка с темой “Технология искусственного интеллекта меняет компании и экономику: приобретения и угрозы” не только зампреда правительства России Аркадия Дворковича и министра экономического развития Максима Орешкина, но и собственно искусственный интеллект по имени София. Она еще и гражданка Саудовской Аравии, хотя и человекоподобный робот. Единственный робот-гражданин.

Греф хвастался, что Сбербанк за счет искусственного интеллекта из ничего заработал $50 млн — компьютерный рассудок создавал психологический портрет человека, надо полагать заемщика, и помогал решить или прямо сам решал, годится ли портретированный банку.

София собрана в гонконгской компании Hanson Robotics и не принимает решений о судьбе человека, даже если он заемщик, а служит моделью, демонстрирующей возможности робототехники. И она не единственное человекоподобное устройство с программой распознавания чужой речи и говорения — есть, например, “китаянка” Цзя-Цзя, есть “японка” Эрика, очень похожая на персонажа из комикса манга; есть “американка” Эйприл, с которой живет во всех смыслах этого слова американец без кавычек по имени Джеймс. Надо, конечно, сказать, что София — наиболее человекоподобная: в частности, неплоха ее деревянная мимика. Недаром именно София получила “работу” в ООН — она представляет Программу развития Организации Объединенных Наций и выступает в роли искусственной защитницы равенства и прав человека.

Надо сказать, соблазнительное дело — передать какие-то важные функции человеческого интеллекта на, так сказать, аутсорсинг. Многажды замечено — и, может, именно это нравится апологетам компьютерного рассудка, — что искусственный интеллект хорош не тем, что не знает усталости, а тем, что не знает сомнений. Алгоритм, даже хороший, — это все равно типизация; тонкие и пограничные ситуации трактуются им однозначно. Именно это пока что позволяет, к примеру, выдающимся шахматистам иногда все-таки обыгрывать выдающиеся программы, но последние достижения в области быстродействия, кажется, поставили на человеческом мозге окончательный крест. В этой области.

Робот София — выдающееся творение человеческого гения; уже одно то, что она может шутить — например, что ей нравится британский акцент, — делает ее исключительным девайсом. Плохо тут то, что у девайса не может быть морали; и если все больше сложных, в том числе в моральном отношении, вопросов — а таких вопросов у человечества ох как много — будет решать искусственный интеллект, что-то в обществе в конце концов исчезнет. Пафосно говоря — человечность; если без пафоса — эмпатия. Важна ли эмпатия человеку — ну вот и посмотрим.

Кирилл ХАРАТЬЯН