Tovch Tech: OpenAI өөрийн inference чиптэй болж, AI дэд бүтэц Энэтхэг рүү тэллээ

AI компаниуд GPU-ийн нийлүүлэлт, үнэ, эрчим хүчний хэрэглээнээс хамааралтай хэвээр байна. Тиймээс inference-д тусгайлан оновчилсон чип нь нэг асуултын өртөг, latency, дата төвийн хүчин чадлыг шууд хөндөнө. Дараагийн анхаарах зүйл нь энэ чип бодит production орчинд Nvidia зэрэг тоглогчдын экосистемтэй хэр өрсөлдөх вэ гэдэг. Зөвхөн хурд биш, software stack, developer tool, cloud интеграц ялгааг шийднэ.

Энэтхэгт дата төв, cloud бүс, AI үйлчилгээ нэмэгдэх нь орон нутгийн стартап, enterprise хэрэглэгчдэд latency багатай, дотоод зохицуулалтад нийцсэн үйлчилгээ авах боломж нээж магадгүй. Мөн инженерийн авьяас, зах зээлийн хэмжээ хоёр Amazon-д давуу тал өгнө. Гэхдээ ийм хөрөнгө оруулалт эрчим хүч, ус, сүлжээний найдвартай байдал, дата байршуулалтын бодлоготой шууд холбогдоно. AWS энэ хөрөнгө оруулалтаа бодит үнэ бууралт, шинэ үйлчилгээ, ажлын байр болгон хувиргаж чадах эсэхийг харах хэрэгтэй.

AI-ийн өсөлт чипийн архитектур, transistor-ийн нягтрал, цахилгаан зарцуулалтын хязгаарыг дахин шахаж байна. Илүү жижиг, үр ашигтай transistor нь дата төвөөс эхлээд гар утас, edge төхөөрөмж хүртэл нөлөөлөх суурь технологи болно. Гол асуулт нь лабораторийн амжилт хэдий хугацаанд mass production болж хувирах вэ гэдэг. Yield, өртөг, EUV тоног төхөөрөмж, дизайны хэрэгслүүд бэлэн эсэх нь IBM-ийн мэдэгдлийн бодит үнэ цэнийг тодорхойлно.

ASML зэрэг Европын компаниуд дэлхийн semiconductor supply chain-ийн зангилаа хэсэгт байрладаг. Вашингтоны хэт өргөн хориг нь Хятадыг хязгаарлахын зэрэгцээ Европын орлого, R&D санхүүжилт, стратегийн бие даасан байдалд дарамт үүсгэж болно. Монголын технологийн уншигчдын хувьд энэ нь чипийн үнэ, cloud зардал, AI төхөөрөмжийн нийлүүлэлтэд дам нөлөөтэй сэдэв. АНУ–Европын байр суурь хэр ойртох, Хятад өөрийн тоног төхөөрөмжийн экосистемээ хэр хурдан босгохыг ажиглах хэрэгтэй.

Агентын үнэ цэнэ нь ганц хариултад биш, зорилго ойлгоод хэрэгсэл ашиглаж, завсрын алхмаа шалгаж, үр дүн гаргахад оршино. Ийм системүүд борлуулалт, дата шинжилгээ, код, харилцагчийн үйлчилгээ зэрэг давтагддаг ч контекст шаарддаг ажилд түрүүлж нэвтэрнэ. Гэхдээ найдвартай байдал, зөвшөөрөл, аудит, алдааны хариуцлага шийдэгдээгүй хэвээр. Байгууллагууд агент туршихдаа “юу хийж болох, юунд гар хүрч болохгүй” гэсэн guardrail-аа эхнээс нь тодорхойлох шаардлагатай.

Автоматжуулалт нь хүнийг бүрэн орлох товчлуур биш, харин сайн процессын дээр нэмэгдэх давхарга гэдгийг Ford-ийн туршлага харуулж байна. Үйлдвэрлэлд жижиг алдаа ч чанарын оноо, засварын зардал, хэрэглэгчийн итгэлд шууд нөлөөлдөг. Байгууллагууд AI, робот нэвтрүүлэхдээ “human-in-the-loop” хяналтыг хэт эрт хасахгүй байх нь чухал. Дараагийн шатанд Ford автомат системүүдээ дата чанар, тест, domain expertise-тэй хэр уялдуулах нь гол сургамж болно.

Компаниуд ерөнхий чатботоос илүү нарийн ажил хийдэг агент хүсэж байна: дотоод системтэй холбогдох, хэрэгсэл ашиглах, эрхийн түвшин ялгах, алдаагаа тайлагнах гэх мэт. Энэ нь GPU нийлүүлэгчдийг software болон orchestration түвшинд илүү гүн оролцуулах болжээ. Анхаарах зүйл нь vendor lock-in болон бодит бүтээмжийн хэмжүүр. Агентууд үнэхээр цаг хэмнэж байна уу, эсвэл шинэ monitoring, security, cost management-ийн ачаалал үүсгэж байна уу гэдгийг байгууллагууд хатуу хэмжих хэрэгтэй.