Глава отдела искусственного интеллекта и аналогичные руководящие должности никуда не денутся, говорит специалист по этике Deloitte AI

28 сентября 2023 г.

Руководитель отдела искусственного интеллекта — это новая модная должность, но действительно ли бизнесу нужен кто-то на эту должность? Какие обязанности это влечет за собой? Мы спросили Бину Амманат, исполнительного директора Института искусственного интеллекта Deloitte, руководителя направления «Надежная техническая этика» Deloitte и автора книги «Надежный искусственный интеллект: бизнес-руководство по обеспечению доверия и этики в сфере искусственного интеллекта». По ее словам, руководитель отдела искусственного интеллекта — это важная роль, для которой требуется человек с деловой и технической хваткой.

На должность руководителя отдела ИИ могут нанять главного исполнительного директора, технического директора или директора по информационным технологиям, в зависимости от цифровой зрелости и размера организации. Амманат отметил, что роль главы отдела искусственного интеллекта охватывает широкий спектр технологий, включая машинное обучение и науку о данных, а не только генеративный искусственный интеллект.

Это интервью было отредактировано для обеспечения длины и ясности.

Перейти к:

Чем занимается руководитель ИИ? Должность руководителя отдела искусственного интеллекта — модная, но технологическая среда означает, что она никуда не денется. Этические соображения в отношении искусственного интеллекта для бизнес-лидеров

Чем занимается руководитель ИИ?

Меган Крауз: Когда кто-то нанимает исполнительного специалиста по искусственному интеллекту, на что ему следует обращать внимание? Какова должностная инструкция и как люди ей соответствуют?

Бина Амманат: В отличие от традиционных ролей директора по маркетингу или даже директора по технологиям и директора по информационным технологиям, [роль руководителя отдела ИИ] зависит от зрелости организации, от того, что они хотят делать с ИИ, [и] где они сегодня.

В чем они видят роль ИИ? Я видел две категории. Во-первых, организация настолько плохо знакома с ИИ, что пытается выяснить, как внедрить ИИ в свой бизнес, в свою суть, будь то основные процессы или новые возможности получения дохода [или] идеи новых продуктов. Вы бы искали кого-то, кто обладает глубокими знаниями в области искусственного интеллекта, но также имеет деловую хватку.

В идеале вам нужен кто-то, кто обладает хотя бы знаниями в той области, в которой находится ваш бизнес. Итак, если вы представляете медицинскую компанию и пытаетесь найти главного специалиста по искусственному интеллекту, было бы здорово привлечь кого-то, кто знает искусственный интеллект, но имеет некоторый опыт работы с медицинскими компаниями.

SEE: Бюджеты для групп данных ограничены, что приводит к недостаточной оснащенности руководителей и команд данных и высокой текучести кадров (TechRepublic)

Вы ищете человека, который по-настоящему разбирается в вашем бизнесе и извлекает максимальную выгоду из ИИ, будь то экономия средств или новые возможности получения дохода, и вам нужен человек, который также разбирается в бизнесе. Кто-то, у кого, вероятно, есть бизнес-образование, чтобы вы также могли проявить эту деловую хватку, [чтобы они могли] сказать: «Именно здесь ИИ был бы наиболее полезен для этой организации».

Если организация чрезвычайно зрела в своем развитии искусственного интеллекта или является компанией, занимающейся искусственным интеллектом, вам также нужен человек, который имеет глубокое понимание этой технологии. Либо этот человек сам проводил исследования в области ИИ, тесно связан с сообществом открытого исходного кода, либо с предстоящими исследовательскими работами или областями исследований ИИ, либо обладает такими глубокими технологическими знаниями.

Итак, если ваша компания очень зрелая или занимается искусственным интеллектом, вам, вероятно, также придется искать глубокого технолога по искусственному интеллекту.

Меган Крауз: Как давно в мире технологий обсуждаются такие должности, как руководитель отдела искусственного интеллекта?

Бина Амманат: Это эволюция, как и некоторые другие роли, связанные с цифровыми технологиями. Первой итерацией [руководителя отдела искусственного интеллекта], вероятно, был директор по данным, когда компании поняли, что данные имеют ценность. Затем пришла наука о данных. Конечно, есть руководители по обработке данных, или директора по данным и аналитике, или руководители отделов данных и аналитики.

За последние 10 лет или около того это был самый заметный титул; теперь некоторые из этих игр превратились в искусственный интеллект. Во многом это связано с развитием ИИ как самой технологии, помимо больших данных и машинного обучения, с другими атрибутами ИИ, такими как большие языковые модели или генерация текста, создание изображений и так далее.

Я думаю, что руководитель отдела искусственного интеллекта или главный специалист по искусственному интеллекту разговаривал на местном языке, по крайней мере, последние пару лет.

Меган Крауз: Должен ли руководитель отдела искусственного интеллекта охватывать все: от проектирования до принятия решений, ориентированных на пользователя?

Бина Амманат: Да, или им следует создать структуру команды. Это шаг к провалу, если вы пытаетесь нанять единорога, обладающего глубокими техническими знаниями, глубокими знаниями в области бизнеса и глубокими знаниями в предметной области. Крайне маловероятно найти такого человека, обладающего такой глубиной.

Итак, [речь идет] о поиске человека, который [владеет] основными принципами лидерства, который может сотрудничать, который может объединить эти различные наборы навыков, [и] который понимает пробелы в своих собственных знаниях. И может быть дополнен подходящей руководящей ролью под ее руководством, чтобы убедиться, что эти пробелы заполнены.

Вам не обязательно быть экспертом во всех трех областях, чтобы стать главным специалистом по искусственному интеллекту, но вы должны осознавать свои пробелы и окружать себя командой руководителей с [правильным] набором навыков.

Должность руководителя отдела искусственного интеллекта — модная, но технологическая среда означает, что она никуда не денется.

Меган Крауз: Открыто ли больше этих вакансий в масштабе предприятия или в малом и среднем бизнесе? Как вы думаете, продолжат ли компании говорить о роли руководителя отдела искусственного интеллекта в ближайшие несколько лет?

Бина Амманат: Да, абсолютно. В ближайшие несколько лет точно. Независимо от размера вашей организации, я думаю, что необходимо уделить особое внимание искусственному интеллекту, потому что эта технология несет в себе такой большой потенциал, что будет полезно иметь главу отдела искусственного интеллекта, старшего руководителя, который будет рассматривать мощные инновационные способы, которыми может помочь эта технология. прийти в свой бизнес и оказать влияние.

В ближайшие несколько лет ИИ окажет огромное влияние. Очевидно, что есть положительное влияние — создание стоимости бизнеса — но оно также может иметь негативные последствия для вашего бизнеса.

Убедитесь, что вы думаете о ценности и рисках технологии, и у вас есть старший руководитель, который рассматривает оба аспекта и принимает бизнес-решения о том, когда и где следует использовать ИИ, какие ограничения необходимо установить и т. д. [и] как вы можете использовать лучшие из новых технологий, поступающих к нам, и при этом быть в курсе новых правил в области искусственного интеллекта.

SEE: Регулирование ИИ в США — это постоянная работа, включая сентябрьскую встречу между технологическими лидерами и некоторыми членами Сената США. (Техреспублик)

Наличие лидера, специализирующегося на искусственном интеллекте, будет иметь решающее значение, независимо от того, являетесь ли вы маленькой или крупной компанией, потому что сегодня каждая компания — это компания, оснащенная технологиями.

Меган Крауз: Можете ли вы рассказать немного больше о рисках, которые вы упомянули, с точки зрения того, что лидерам ИИ необходимо следить за этими вещами?

Бина Амманат: Очевидно, есть те, о которых вы много слышите: предвзятость и справедливость. Поэтому, если вы используете человеческие данные в ИИ, вам обязательно следует проверять человеческую справедливость и предвзятость в вашем алгоритме и смягчать их, а также необходимость прозрачности функционирования алгоритма. Это зависит от того, когда, где и как используется ИИ.

Каков приемлемый уровень справедливости и прозрачности? Вы действительно хотите знать, почему карта рекомендует вам определенный путь, а не когда ИИ рекомендует определенный диагноз для симптомов, которые могут у вас возникнуть? Уровень приоритета будет зависеть от варианта использования или влияния на конфиденциальность данных. Как убедиться, что у вас есть необходимые разрешения на использование [данных] так, как вы хотите?

Этические соображения в отношении искусственного интеллекта для бизнес-лидеров

Меган Крауз: Какие еще этические соображения следует учитывать при принятии руководящих решений об использовании генеративного ИИ? Какие люди, каких должностей и, может быть, из каких групп интересов должны быть вовлечены в решения, принимаемые главой ИИ или аналогичной должности?

Бина Амманат: Вам нужна группа заинтересованных сторон, почти комитет, [который] является межотраслевым и межфункциональным. Поэтому, если у вас есть несколько линеек продуктов или направлений бизнеса, должен присутствовать лидер каждого из этих предприятий, а также руководителей различных бизнес-функций [групп]. Потому что генеративный ИИ окажет влияние не только на ваш бизнес, но и на вашу финансовую команду, команду талантов, команду HR, команду маркетинга.

Наличие межбизнесовой и межфункциональной команды заинтересованных сторон, которая оценивает и расставляет приоритеты поступающих вариантов использования генеративного ИИ, будет иметь решающее значение для наиболее эффективного использования генеративного ИИ, ответственного и соответствующего требованиям.

---

Оригинал