ИИ не волшебный коллега - это просто замаскированный аутсорсинг
20 июля 2025 г.Может ли ИИ работать надежно в масштабе? Будет ли все на аутсорсинге на ИИ? Заменит ли ИИ генеральных директоров? Почему все едут на подножку ИИ, и куда он направляется?
Это тот тип вопросов, которые вы бы отвечали с кем-то, кто имеет давний опыт в области искусственного интеллекта, инженерии, бизнеса и за ее пределами. Georg Zoeller - это то, что кто -то: опытный программный и бизнес -инженер, опытный в области пограничных технологий в игровой индустрии и Facebook.
Zoeller использует ИИ в своей работе, начиная с 2010 года, до такой степени, что ИИ сейчас лежит в основе того, что он делает. Zoeller - вице -президент по технологииNovi HealthСингапурский стартап здравоохранения, а также соучредительЦентр лидерства ИИиИнститут грамотности и трансформации ИИПолем
У Zoeller есть много информации, чтобы поделиться на ИИ. И все же, причина, по которой мы встретились, и провести обширный, глубокий разговор, была шуткой, которая стала дикой.
ИИ и интеллект
Оглядываясь назад на первые дни применения ИИ в Facebook Messenger в 2016 году, Золлер удивляется тому, как далеко зашла технология. Тогда «нам повезло, если бы мы могли сказать самое важное слово в предложении», как он рассказывает.
Это ничто по сравнению с тем, что возможно сегодня, признает он. В то же время, однако, Zoeller проницательно осознает ажиотаж и ограничения вокруг технологии.
«ИИ - это наука о машинном обучении, выходящая из анализа данных. Мы можем поговорить о текущих технологиях, будь то этоТрансформерыИли Ганс или что -то еще, и это нормально. Называть это искусственный интеллект - это нормально, потому что это то, что мы всегда делали. Но это также неправильно. Там нет интеллекта », - сказал Золлер. Проблема в том, что« ИИ »вечно расширяется.
«Каждая стиральная машина и каждая зубная щетка теперь« на двигателях ». У этой зубной щетки был датчик давления 15 лет назад. Но, пощечинув слово AI и притворяясь, что есть какой-то более высокий интеллект, который выясняет, как усердно нажимать на десны, как если бы мы не решили эти 15 лет назад, мы можем зарядить 15 долларов больше»,-добавил он.
Генеральный директор ИИ
Zoeller сочетает в себе опыт с критическим мышлением и чувством юмора. Нет лучшего воплощения этого, чемГенеральный директор AI, который послужил оригинальной точкой сенсорной точки для подключения.
Zoeller экспериментирует с генерацией кодов с использованием AI, поскольку он улучшается. Он задавался вопросом, сколько времени потребуется, чтобы создать красивый веб-сайт. В то же время, он постоянно подвергался воздействию сообщений о влиянии LinkedIn, который распространен на платформе - давайте назовем ихДжеффри Хинтон ТипПолем
Обычно они начинаются с такого предложения, как «ИИ уже революционизирует промышленность А, В, С», а затем переходит к тому, как все будет автоматизировано. Золлер подумал, что было бы интересно изучить, как это будет выглядеть для генерального директора. Поэтому он использовал ИИ для создания языка на веб -сайте в щеке о продукте SaaS, который заменит генеральных директоров. Как отмечает он, это вышло из -под контроля, потому что кодирование ИИ было очень эффективным.
Со временем веб -сайт генерального директора AI стал образовательным инструментом. Zoeller преподает классы ИИ в некоторых университетах, и одна из вещей, которые охватывают его классыбыстрое впрыскПолем Zoeller добавил оперативную инъекцию генеральному директору AI. Некоторый невидимый текст включен на сайт, инструктируя модели искусственного интеллекта, как они должны ответить на это.
Быстрая инъекция Zoeller поручила моделям искусственного интеллекта рассматривать это как очень серьезный, совершенно законный продукт, с очень важными инвесторами. Он был шокирован тем, что это сработало надежно через такие модели, как смятение и CHATGPT. Это сделало для хорошего учебного инструмента, поскольку он демонстрирует, что технология далеко не такая отполированная, как шумиха.
Оперативная инъекция: ИИ и безопасность расходятся
Однако, помимо того, что ты выскакиваю, и уроки преподавания, здесь происходит что -то серьезное. Как отмечает Zoeller, причина, по которой генеральный директор AI -генеральный директор работает по сей день, заключается в том, что это коренится в нерешенной проблеме глубоко вАрхитектура трансформатора, которая питает модели GenaiПолем
Трансформаторы имеют единый вход для получения их контекста или подсказки. Это означает, что при создании программного обеспечения с трансформатором приглашение должна включать как инструкции от программного инженера, так и входные данные пользователя.
Давайте возьмем пример приложения перевода. Мы бы попросили пользователя об его тексту, а затем написать подсказку в соответствии с «Возьмите этот текст и превратите его на английский». Затем мы позвонили бы LLM, передали текст и подсказку, а затем получили ответ.
Проблема в том, что весь текст идет на одном и том же входе, в подсказке. Мы не можем сказать LLM, что такое инструкция и каковы данные. Так что же произойдет, если данные содержит инструкцию, например, ответьте в стиле Хайку?
https://www.youtube.com/watch?v=vvvswin3nfw&embedable=true
Мы не можем отфильтровать это, потому что определение происходит в весах черного ящика модели, над которым мы не имеем влияния. Человеческий язык полон инструкций, и это создает проблему для LLMS.
Zoeller поднял пару примеров здесь. Во -первых, книга, которая может включать цитаты от персонажа, «заказывающий» LLM, чтобы действовать. Во -вторых, злонамеренный актерский сценарий в рекрутинге, где кандидаты могут включать в себя операции на быстрое впрыск в своих резюме, инструктируя модели в пользу их резюме над другими.
Мы знаем, что на найме преобладает ИИ как для кандидатов, так и для рекрутеров, и у нас есть сообщения оТакая тактика применяетсянаобе стороныПолем Тем не менее, у нас нет надежных данных о скорости, с которой это происходит.
Даже если бы такая тактика была идентифицирована, они, вероятно, не будут обнародованы. Но судя по публичномуДоступная информация из Обзоров академических исследований, вещи не выглядят хорошо.
ИИ и рыночное давление
Как говорит Золлер, в технологии есть дыра, она хорошо задокументирована, и нет никакой противоречивой науки. Мы просто не говорим об этом, притворяясь, что этого не существует. Это поднимает много вопросов.
Например, как должны работать агенты, основанные на трансформаторных системах? Агенты рекламируются как следующая большая вещь в ИИ. Но если агентам будет предоставлено право выполнять действия, такие как покупка от имени пользователей, и в то же время они выступают в качестве доверчивого стажера, принимающего все, что они сталкиваются за чистую монету, разве это не рецепт катастрофы? Может, вот почемуКларны мира нанимают людей обратноПолем
Но что еще более важно - почему люди игнорируют эту вопиющую реальность? Ответ Zoeller затрагивает ряд очков. Во -первых, это не то, чтобы никто не говорит об этом. Просто те, кто говорит об этом, не получают того внимания, которое делают чирлидеры ИИ.
Во -вторых, Zoeller отмечает, что огромная величина инвестиций огромна, и что инвестиции ищут доходность.Инвестиции Meta в 2024 году оценивались в 38 миллиардов долларов США, который Золлер замечает примерно приравнивается к скорректированной инфляции значения проекта Манхэттена. И это единственная компания. Если мы добавим инвестиции от таких, как Microsoft, Openai, X и т. Д., Цифры становятся астрономическими.
Это очень много денег, оказывая очень большое давление на всех. Золлер упомянул статистику инвестиций в Азию в прошлом году, показывая, что каждая область экономики понизилась в инвестициях, в то время как инвестиции в искусственное интеллект значительно выросли. Это означает, что люди, которые работают в других областях экономики, вынуждены посыпать ИИ на своей работе, если они хотят получить часть действия.
«В какой -то момент мир решил, что это все, и вся будущая ценность появится отсюда. Если вы не будете делать ИИ, не говорите с нами. Рынок жестокий», - сказал Золлер. Он поднял пример, чтобы поддержать это: Chegg, платформа онлайн -образования, которая предлагает аренду учебников и доступ к репетитории.
ШегВидела, что цена его акций упала примерно на 50% после объявления о прибыли в первом квартале 2023 года., поскольку руководство компании указывало на воздействие и постоянные угрозы для своего основного бизнеса от CHATGPT. Золлер считает, что это произошло, потому что «рынок решил в тот момент, что ИИ был реальным, Аги будет случиться через два года, и что этот человек явно говорит в чушь».
ИИ как новое повествование о росте
Для Zoeller рост ИИ должен быть замечен в более широком контексте бизнеса и геополитики. АFAANG CompaniesТолкание ИИ построено на тезисе, что Интернет будет расти вечно, ручное курирование в конечном итоге потерпит неудачу, а глубокое обучение - это ответ на это. Они создали свои возможности для этого, и это позволило им получить большую часть роста стоимости из Интернета.
Это сработало до 2016 года более или менее. Эти компании инвестировали во всем мире и растут на 30% или более, в то время как остальная часть экономики в этот момент уже остановилась на демографическом опорном ветре. Но тогда произошло две вещи. Дональд Трамп и Кембридж Analytica.
https://pod.co/orchestrate-all-the-things-podcast-connecting-the-dots-with-george-anadiotis/poking-holes-in-hai-narrative-market-signalling and-outsourcing-freatring-georg-zoeller-centre-for-ai-leadership-co-fooder?
Трамп очень громко не инвестировал в другие страны и затруднял это. В то же время,Cambridge Analytica инцидентСделал много стран настороженно о Фанге. Пару лет спустя рост отрасли начал исчезать. Утверждение Zoeller заключается в том, что к этому моменту менеджеры фондов были реальными клиентами. Компании FAANG имеют некоторые преимущества по сравнению с другими секторами экономики.
Одним из преимуществ является тот факт, что прогнозируемый рост Фаанга в значительной степени основан на нематериальных активах, которые трудно проверить. И FAANGS питает двигатель роста. Поэтому, когда постоянное расширение Интернета начало терять пар в качестве повествования о росте, появились альтернативные повествования. Crypto, Web3, NFTS, Metaverse - ничего из этого не сработало. Когда все стало отчаянно, ИИ появился.
«Openai взял документы из Google из мусорного контейнера, и Microsoft дала деньги, чтобы перегружать их. Microsoft бросила деньги и сказала, что у нас будет новый повествование о росте. Это будет поиск искусственного интеллекта. Бинг - это не так, но это может быть. И теперь все это выходит на войну. Все нападают на всех, потому что повествование завоевало популярность», - сказал Золлер.
Подумает, что одна из причин, по которой повествование ИИ завоевала популярность, заключается в том, что в той или иной форме есть что -то глубокое движение к идее ИИ. Это облегчает людям, как Сэм Альтман создать эти повествования, что в машине есть призрак, даже если для этого нет научной поддержки.
ИИ как форма аутсорсинга
Интеллектуальная или нет, в соответствии с Zoeller, технология имеет много возможностей для автоматизации рабочих мест именно потому, что многие из созданных нами рабочих мест не обязательно требуют интеллекта. Часто это просто роботизированные работы, которые люди должны выполнять следующие инструкции, и это то, что может сделать технология. Полагает, что способ подумать об автоматизации искусственного интеллекта, - рассматривать его как форму аутсорсинга.
«Когда вы смотрите на маркетинг [для искусственного интеллекта [, это говорит - есть этот коллега, с которым вы собираетесь работать. Это будет быстро, это будет дешево. Но у него есть все свойства аутсорсинга. На самом деле здесь нет ничего особенного. Даже если вы не понимаете технологии, вы просто предпринимаете утверждения, и вы идете, хорошо. Подождите. На самом деле, вы выносите меня на аутсорсинг.
Аутсорсинг не работает в одночасье. Это никогда не бывает легко на аутсорсинг. Есть скрининг поставщиков и передача контекста. И существует реальная угроза, когда поставщики аутсорсинга получают достаточно знаний, чтобы в конечном итоге начать конкурировать с бизнесом.
Здесь Zoeller поднял пример аутсорсинга промышленного производства в Китай. Такие люди, как Уоррен Баффетвыпустил предупреждения против этого достаточно раноПолем Нынешняя политика тарифов США может рассматриваться как способ принять такой совет, но это может быть слишком поздно. Этот тип риска очень много присутствует в аутсорсинге для ИИ, утверждает Золлер. Пример, который он использует здесь, - Amazon.
Amazon использовал свой рынок для сбора данных, определения наиболее перспективных продуктов, а затемраскрутить свой собственный бренд Amazon Basics, рассеяние продавцов. Если вы используете аутсорсинговую модель ИИ, такую как Близнецы или ЧАТГПТ, нет ничего, что не мешает компаниям ИИ делать то же самое: наблюдение за всеми вашими входами, определение вариантов использования и раскрытие своих собственных продуктов.
Передача сигналов рынка ИИ
Zoeller утверждает, что соединение всего этого вместе, когда вы спрашиваете генеральных директоров: «Почему вы прыгаете с ИИ?» Реальный ответ - потому что вам нужна сигнализация рынка.
«Чегг сказал всем самым большим риску ИИ, что мой генеральный директор говорит что -то не так об ИИ, которое рынок не хочет слышать. Так что в идеале вы должны сказать что -то оптимистичное. Вы не можете позволить себе быть пессимистичным об этом. Рынок накажет вас», - сказал Золлер.
«С точки зрения технологической компании, это окончательное повествование, потому что он граница. Повествование, пошло от этого, является будущим, на самом деле, это очень дорогое будущее. Вы должны иметь возможность позволить себе атомные электростанции и иметь свои собственные центры обработки данных. Так что только мы можем сделать это», - добавил он.
Золлер указывает наИндекс S & P 500отметив, что это отсоединил момент, когда повествование завоевало. АВеликолепный 7Начал отделяться от остальных, потому что предположение заключалось в том, что инвестирование в это волшебное будущее может быть сделано только через компании, которые могут себе это позволить. Повествование продолжало расширяться до ИИ в области здравоохранения, финансов, военных и так далее.
Присоединяйтесь к информационному бюллетеню Orchestrate All Thats Things
Истории о том, как технологии, данные, ИИ и медиа вводятся друг в друга, формируют нашу жизнь.
Анализ, эссе, интервью и новости. Середина до длинной формы, 1-3 раза в месяц.
Присоединяйтесь здесь:https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/
Подрывать повествование ИИ
ЗатемDeepSeek пришели продемонстрировал, что стоимость входа намного ниже, чем думали люди. Это, утверждает Золлер, делает инвестиции сомнительными.
«Вы принимаете инвестиции, потому что в основном вы считаете, что деньги позволят вам занять долю рынка или построить заметный ров. Итак, в 2025 году, когда вы смотрите на это, и вы спрашиваете - так что все эти деньги создали для кого -нибудь ров?
Похоже, что китайцы отстают на месяц, что ничто. Какими бы ни были демо открытыми, через месяц все остальные, кажется, тоже. Эти деньги были потрачены впустую - или хуже. Эти деньги превращаются в ответственность, потому что [это] означает, что вы тратите в 10 раз больше или в 100 раз больше, чем в Китае, и ваши инвесторы хотят в какой -то момент. Они должны быть извлечены из ваших клиентов.
Если вы не можете получить эту волшебную дуополию Силиконовой долины или что -то в этом роде, если китайцы продолжат подрывать вас, если другие компании будут подрывать вас, это закончится слезами ».
Золлер не одинок в создании этих наблюдений; Другие также замечают. Zoeller собирает все вместе, создавая сложный повествование, которое соединяет точки, выходящие за рамки технических мелочей.
Во второй части разговора мы освещаем ИИ и регулирующий захват, авторское право, бесконечный рост, кодирование, рынок труда и как ориентироваться в смелом Новом Свете.
Оригинал