【生成 AI 時代の LLMOps】プロンプト管理編 🔖 2

はじめに今日の大規模言語モデル、生成 AI の性能の進化により、モデルの多様化、バージョンアップは日々増すばかりです。機械学習モデルによって解くことのできるタスクが増えることで、ビジネスの可能性が拡がっていることは疑いようがありません。しかし技術の多様性や複雑性がますことは、使

LLM は二次資料？情報源としての LLM との向き合い方 🔖 1

LLM が現れてから数年が経ちましたが、未だに変化が激しく、多くの人が向き合い方を模索している途中だと思います。LLM には様々な使い道がありますが、私は最近、情報を得る手段として LLM を利用するときの向き合い方に悩んでいるので、思ったことを記事にしてみます。色々な人の意見が

RAGでLLMの内部パラメータを活用する方法 🔖 17

導入こんにちは、株式会社ナレッジセンスの須藤英寿です。今回は、RAGの出力がどの情報源を元に出力したかを示す出典を、トークン出力確率を用いて判定する手法「LoDIT」について紹介します。https://arxiv.org/pdf/2508.08942 サマリーRIG

ローカル LLM で動く Deep Research を参考に LangGraph に入門してみる 🔖 3

タイトル こんにちは、ABEJA Platform に搭載しているアプリケーション、「ABEJA Insight for Retail」の開発と運用を担当している森永です。 今回は LangChain 社より公開されている local-deep-researcher という、ロー

LLM へのプロンプトを構造化された文書で管理する POML 🔖 188

POML (Prompt Orchestration Markup Language) は、Microsoft によって提案されたプロンプトを構造化された文書として管理するためのマークアップ言語です。プロンプト開発における構造の欠如や複雑なデータとの統合の困難さ、特定のフォーマッ

LLM向けデータ合成手法"Magpie"を応用して音声データセットを合成してみた 🔖 1

はじめにこの記事は、MagpieというLLM用のデータ合成手法をLLMベースのTTSモデルに応用し、合成音声データセットを作ってみたという記事です。 記事概要最近、LlasaやOrpheus-TTSなど、LLMをベースとした自己回帰によるTTSモデルが増えてきています。こ

東大・松尾研、2024年度「大規模言語モデル講座」の講義スライド資料を無料公開／LLMの活用法からモデル構造、応用まで幅広く学べる 🔖 559

「LLMはコンテキストがすべて」かもしれない 🔖 305

コンテキストエンジニアリングについて LLM（大規模言語モデル）の分野で、最近「コンテキストエンジニアリング（Context Engineering）」という言葉が多く使われるようになりました。AIエージェントの文脈でも使われることが多く、自分の中でずっとモヤモヤしていたのですが

「LLMはコンテキストがすべて」かもしれない 🔖 305

コンテキストエンジニアリングについてLLM（大規模言語モデル）の分野で、最近「コンテキストエンジニアリング（Context Engineering）」という言葉が多く使われるようになりました。AIエージェントの文脈でも使われることが多く、自分の中でずっとモヤモヤしていたのですが

オープンウェイトモデルで広がる生成AI活用: LLM API活用の課題と自社運用 🔖 2

はじめに こんにちは。Algomatic AI Transformation(AX) のsergicalsix（@sergicalsix）です。 近年、大規模言語モデル（LLM）の登場により、AIがビジネスの現場で急速に浸透しています。ChatGPTやClaudeなどのAPIを活

LLM 機能を支える Langfuse / ClickHouse のサーバレス化 🔖 22

ゆるSRE勉強会 #12 https://yuru-sre.connpass.com/event/360950/ ## 関連記事 - LangfuseのTrace書き込み失敗から学ぶLLMOpsを支える技術 https://tech.layerx.co.jp/entry/deep

色違いのコイキングでLLMをバグらせろ：グリッチトークン入門｜xcloche 🔖 211

漢字が読めない最新AIOpenAIの最新のLLM、GPT-5に「植物百科通って何ですか」と聞いてみよう。そんな言葉はないのだが、植物百科に詳しい人のこと、みたいな感じだろうか？ GPT-5の返答はこうなる： 例1, 例2 「meltdown」や「overclock**」と間違えや

LLMの精度ってどう測るの？評価指標を調べてみた - SmartHR Tech Blog 🔖 81

こんにちは。AIアシスタントチームでプロダクトエンジニアをしているmizunaoです。 SmartHRでは先日、人事・労務に関する問い合わせにAIが回答するAIアシスタント機能をリリースしました。 この機能では裏側でLLM（大規模言語モデル）を利用していますが、開発にあたって「L

gpt-oss-120bをpythonとvLLMで触りながら理解する 🔖 52

データサイエンティストをしている服部です。 OpenAIからgpt-ossというオープンモデルが登場しました。 早速ですが、このモデルを使いながら中身を理解していきたいと思います。 gpt-ossのモデル特徴 vLLM上で動かす 通常のtokenizerで動かす 最終出力と思考部

東大の松尾・岩澤研、「大規模言語モデル講座」の資料を無料公開　LLMの理論から実践まで体系的に解説 🔖 145

「2024年度の講座では、ChatGPT登場後の社会変化を踏まえたLLM技術の本質を理論から実践まで体系的に扱い、多くの受講者にご好評をいただきました。ぜひご自身の学習にお使いください」（松尾・岩澤研究室） なお、同研究室では、学生と一部の社会人（国家・地方公務員、研究者、スター

古いWinowsPCで動く!? LLMStudioでGPT-OSSを使ってはじめてのローカルLLM!! （GPT-OSS20B編） 🔖 5

!人力で書きましたけつろん、とってもかんたん、こ、こいつCPUで動くぞ・・・！！10.80 tok/secくらいの動作だったよ GPT-OSSのリリース2025/08/06 未明 GPT-OSSがリリースされました！この機会にローカルLLMにチャレンジしたいと思

AIによる開発の前提知識を学ぶため「LLMのプロンプトエンジニアリング」を読んだ - $shibayu36->blog; 🔖 284

LLMのプロンプトエンジニアリング ―GitHub Copilotを生んだ開発者が教える生成AIアプリケーション開発 作者:John Berryman,Albert Ziegler,服部 佑樹（翻訳）,佐藤 直生（翻訳）オーム社Amazon LLMアプリケーションを作ることがなか

企業向けLLM市場でAnthropicが急伸--OpenAIを引き離して首位に 🔖 34

通りすがりの人に「ビジネス向けで最も人気のある大規模言語モデル（LLM）は何か？」と尋ねれば、おそらく「OpenAIの『ChatGPT』」と答えるだろう。しかし、2025年半ば現在、企業向けLLMのトッププロバイダーはAnthropicであり、Menlo Venturesによると

10XでのLLMデザイン活用 8事例（2025年夏版）｜suumin 🔖 24

こんにちは！10X プロダクトデザイナーの日比谷（@suuminbot）です。 10Xでは社長の矢本さんとエンジニアを中心に業務でのLLM活用が活発ですが、デザイナは…？というと正直つい先日まであまり活用できていない状況が続いていました。 というのも、昨年の秋ごろから今年5月まで

LLMの精度ってどう測るの？評価指標を調べてみた 🔖 81

こんにちは。AIアシスタントチームでプロダクトエンジニアをしているmizunaoです。 SmartHRでは先日、人事・労務に関する問い合わせにAIが回答するAIアシスタント機能をリリースしました。 この機能では裏側でLLM（大規模言語モデル）を利用していますが、開発にあたって「L

LLMの本質的価値とプロダクト適用における技術的考察 🔖 6

はじめまして。株式会社PeopleX CTOの橘です。PeopleXは2024年4月の創業から2年目となる2025年、企業ブランドを「採用から活躍支援まで、人事領域のAI Techカンパニー」に変更し、生成AIを活用したソリューションを提供しています。生成AIの波がテック業界

ここにきてLLMに“新たなリスク”判明か？　米Anthropicが指摘する「潜在学習」とは何か 🔖 136

1895年、フランスのリュミエール兄弟がシネマトグラフ（映画の原型となる技術）を発明し、映画の普及が始まったばかりの頃。兄弟は自ら映画制作を手掛け、完成した作品の上映会を開催していた。そうして公開された映画の1本に、有名な「列車の到着（ラ・シオタ駅への列車の到着）」がある。 長さ

LangfuseのTrace書き込み失敗から学ぶLLMOpsを支える技術 🔖 5

Trace書き込み失敗調査を行い、Langfuseの安定性を向上させました。その際に調べたLangfuseを支える裏側の技術について解説し、実際にどのような対策をしたのかお話しします。

LLMが理解できるコードの地図 ─ Serena MCPでAIが賢くなる仕組み 🔖 20

はじめに初めまして。Contreaという医療系スタートアップでエンジニアをしている河野と申します。私は普段からClaude Codeを使いながら開発をしています。AIを使いながらのVibe Codingはとても楽しく、開発がサクサク進むような快感がありました。しかし最近、使

スライドをHTMLで生成するという選択！パワポ風HTMLをLLMに構築させることでスライド作成を自動化した話 🔖 1

スライド作成をHTMLで自動化し、生産性を大幅に向上させる技術的アプローチを紹介！ #LIFULL

Browser LLM 🔖 29

気づいたら小規模なLLMが強くなってた 🔖 1

AI課金してますか、気づけばいろんなAIサブスクに契約して月の支払いが馬鹿にならなくなってきた今日この頃です。そんなとき数ヶ月ぶりにローカルLLMを触ったところ、かなり進化していたので筆を執りました。ローカルLLMなら使い放題「それが動くPCが高いんだろ」と言われて...

LLM時代の仕事 - Software Transactional Memo 🔖 272

Geminiに書いてもらったPDCAモーターサイクル いちプログラマである僕の視点では、現在の世界はAIに熱狂している。 特にLLMを使ってコードを書かせるばかりか、その先のデバッグまでLLMに任せる時代はもう少し先だと思っていたら早くも登場して世間を沸かせている。 ソードアート

リコー、マルチモーダルLLMの基本モデルと評価環境を無償公開 🔖 51

リコー、マルチモーダルLLMの基本モデルと評価環境を無償公開～GENIAC第2期での成果を広く社会に還元し、日本企業の業務革新と効率的で付加価値の高い働き方を支援～ 株式会社リコー（社長執行役員：大山 晃）は、経済産業省と国立研究開発法人新エネルギー・産業技術総合開発機構（NED

苦しんで向き合うLLM時代の開発 🔖 41

LLMの急速な発展で開発現場は混乱と可能性が同居する変革期を迎えています。個人開発では楽しく使えるコーディングエージェントも、プロダクション環境への導入となると品質管理やチーム運用など様々な課題が浮上します。 本セッションでは、LLMの基本から実践的な活用原則、Claude Co

Python用GUIライブラリーを活用、ローカルLLMを利用するAIアプリをつくろう 🔖 88

生成AI（人工知能）はクラウドで提供されるものが主流だが、ローカルで動くものもある。ローカル生成AIのメリットや活用法を解説する。 「TkEasyGUI」は、筆者が開発しているPython用のGUIライブラリです。パラメータを細かく指定しなくても、見栄えの良いGUIアプリ（デスク

LayerX AI・LLM事業部におけるFDE 🔖 2

LayerX AI・LLM事業部の伊藤郁海（@ito_ikumin）です。 当事業部では先日、「Forward Deployed Engineer（FDE）」という新たなポジションの採用を始めました。 open.talentio.com FDEの詳細や、採用開始に至った背景につい

Ryzen AI Max+ 395×メモリ128GBで、ノートPCでも128BのLLMが動くように 🔖 122

ハニーポット観測：LLMアプリケーションの構築フレームワーク(Langflow)を標的とする攻撃の観測状況 🔖 1

はじめに三菱電機の山元です。三菱電機 情報技術総合研究所で運用しているハニーポットではLLM(Large Language Model)アプリケーションの構築フレームワーク(Langflow)に存在する脆弱性を標的とすると見られる攻撃を観測しました。昨今のAIブーム...

LLMが苦手な麻雀点数計算問題生成タスクの精度を33%から90%に上げたMulti Agentの力 🔖 6

LLMが苦手な麻雀点数計算問題生成タスクの精度を33%から90%に上げた話をします。「無数の選択肢の組み合わせを考えるタスクだが、正解は検証できる」という特性を持つタスクの精度を上げるノウハウを共有します。

LLMエージェントオブサーバビリティ基盤についてまとめてみた 🔖 3

セガが「ローカルLLM」業務活用　不適切発言のチェックツールなど内製、効果は？ 🔖 50

セガが「ローカルLLM」業務活用　不適切発言のチェックツールなど内製、効果は？：CEDEC2025 セガがローカルLLMの業務活用を進めている。カスタマイズのしやすさやコストの低減を見込み、ローカルLLMを使ったツールを内製。開発用のハイスペックPCが多いというゲーム会社の利点を

無料＆オンラインで学べる東京大学松尾研の「AI講座」の受講者が7万5000人突破／「LLM（大規模言語モデル）」や「AI経営」などの講座を展開 🔖 615

LLM Servingを支える技術 🔖 43

ワシントン大学/Kotoba Technologiesの釜堀です。専門は機械学習システムで、LLMなどの推論を効率化する技術を研究・開発しています。 現代のLLMは莫大な計算・メモリを要するため、LLMを使ったサービスを提供する際には推論の効率性が非常に重要です。この分野はここ数

DSPyとMLflowで LLMアプリケーションを開発！ 🔖 1

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 先日、今年6月に開催されたdatabricksのDATA+AI Summit2025を振り返るdatabricksのユーザー会に参加し、LT枠で登壇させていただきました。 jedai.connpass.com 大分

LLM Servingを支える技術 🔖 43

ワシントン大学/Kotoba Technologiesの釜堀です。専門は機械学習システムで、LLMなどの推論を効率化する技術を研究・開発しています。現代のLLMは莫大な計算・メモリを要するため、LLMを使ったサービスを提供する際には推論の効率性が非常に重要です。この分野はここ数

LLM推論に関する技術メモ 🔖 238

はじめに BentoMLよりLLM Inference Handbookという、LLMの推論をまとめたハンドブックがある。本記事ではハンドブックや他の情報も参照しつつ、自分のメモ用としてLM推論に関する技術をまとめていく。 LLMの推論と内部理解の必要性 LLM推論とは、GPT-

MacBookで無料AI。｢ローカルLLM｣がいい感じに進化してます 🔖 469

MacBookで無料AI。｢ローカルLLM｣がいい感じに進化してます2025.07.21 08:00 かみやまたくみ ローカルLLMとは、ざっくり言ってしまうと｢無料で公開されている大規模言語モデル｣のことで、自分のPCにダウンロード・専用ソフトで読み込んで使います。ChatGP

The Big LLM Architecture Comparison 🔖 91

RTXからB200までのNVIDIA GPU10種でLLMファインチューニング速度を一斉比較 🔖 1

1. 背景・目的NVIDIAのGPUは毎年新しいモデルがリリースされ、機械学習や推論の性能向上が謳われています。それらを眺めながら「実際はどのくらいの性能向上なんだろうか？」と興味を持つ人は多いのではないでしょうか。またコンシューマー系のRTXも性能が良くなってきて...

【Ubuntu日和】 【第77回】llama.cppをビルドして、いち早く話題の日本語LLMを使おう！ 🔖 46

LLMで"何でも"できる時代のAIエンジニア生存戦略 - LLMのグラウンディング能力について 🔖 1

結論 LLM/VLMで"何でも"できる時代に、LLMにはグラウンディングという苦手な事があります LLM/VLMを、グラウンディングができるモデルとうまく組み合わせるといいかもしれません この「グラウンディングをどうするか」が次世代のAIエンジニアに求められるスキルの一つかもしれ

LLM拡張解体新書/llm-extension-deep-dive 🔖 116

2025/7/16に行われた、OCHaCafe Season10 #2 で用いた資料です。 https://ochacafe.connpass.com/event/357868/

Kimi K2をLLMエージェントで活用する場合の性能を検証してみた 🔖 1

ジェネラティブエージェンツの西見です。 最近「Open Agentic Intelligence」としてリリースされたKimi K2が気になったので、LLMエージェントとして利用した場合にどうなるか試してみました。GPT-4.1（Azure OpenAI Service経由）とC

SQLとLLM＋MCPで業務データのギャップを埋める方法 🔖 44

こんにちは。CData Software Japanマーケティングマネージャーの杉本です。 最近は生成AIやMCPに関するトピックをSNSなどのネット上で見かけない日は無いなーと感じる日々ですが、皆さんは業務で生成AI・LLMをうまく活用できていますか？ 普段プログラミングなどを