NPUだけでOpenAIのLLM「gpt-oss」が動く！　速度や消費電力を計測してみた 🔖 53

「AI PC」や「Copilot+ PC」という単語を聞くようになってすでに1年は過ぎたところだが、ChatGPTのような高性能なLLM（大規模言語モデル）がローカルでも動くのか？　と問いにはあまり良い答えがなかったのがこれまでだった。そういうことをしたいなら外部GPUかMacを

Goで作るセキュリティ分析LLMエージェント 🔖 94

Goでフルスクラッチ実装したLLMエージェントによって、セキュリティアラート分析を自動化する方法を解説します。LangChainなどのフレームワークを使わず、LLM APIのみを使って実践的なエージェントを構築する手順を基礎から応用まで紹介します。

New Relic と LiteLLM Proxy と OpenTelemetry 🔖 1

「New Relic Advent Calendar 2025 」シリーズ4・25日目の記事になります。はじめにこんにちは。スタディング開発担当の山本です。最近のマイブームは「剣と魔法と学歴社会」（カクヨム）です。今回は New Relic と LiteLLM Pr...

LLMによるKPI分析検証 🔖 1

こんにちは。id:skozawa です。 この記事は Gunosy Tech Blog Festa の 10 日目の記事です。 今回はLLMを使ってデータ分析業務を効率化する検証について紹介します。 背景 Gunosyでは日々、KPIを見て事業状況の確認や異常検知などを行なってい

LangChainのastreamでLLM分析をストリーミング対応してUXを改善した話 🔖 1

こんにちは。 ファインディ株式会社でFindy AI+の開発をしているdanです。 Findy AI+ではLLMを活用した分析機能を提供しています。 分析対象は個人・チーム・組織と幅広く、データ量に応じて分析に時間がかかることがあります。分析が完了するまで画面に何も表示されないと

Goで作るセキュリティ分析LLMエージェント 🔖 94

Goでフルスクラッチ実装したLLMエージェントによって、セキュリティアラート分析を自動化する方法を解説します。LangChainなどのフレームワークを使わず、LLM APIのみを使って実践的なエージェントを構築する手順を基礎から応用まで紹介します。

LLMサービングライブラリの LMDeploy と vLLM を比較した 🔖 12

皆さんこんにちは。 Acroquest のデータサイエンスチーム「AcroYAMALEX」を率いるチームリーダー、@tereka114です。 AcroYAMALEX では、コンペティション参加・自社製品開発・技術研究に日々取り組んでいます。チーム紹介はこちら。本記事は、「学習推論

DSPy × Langfuse で考える「評価・改善できるAI」　〜 LLMをエンジニアリングとして扱うために 〜 🔖 1

メリークリスマス！！みなさん、こんにちは。メドレーの倉林です。この記事は「Medley（メドレー） Advent Calendar 2025」の25日目（最終日）の記事となります。https://qiita.com/advent-calendar/2025/medley今年

Karpathyが描く2025年のLLM：6つのパラダイムシフト 🔖 1

LLMは数理最適化がおおたまんよりも得意...かも？ 🔖 9

!この記事は数理最適化 Advent Calendar 2025 21日目（だったはずの）の記事です。今回はLLMから数理最適化ソルバーを呼び出す 数理最適化MCP（ReMIP MCP） とそれを使ったデモを作ったので紹介します。数理最適化MCPについては、先日開催された

GPT-1 から GPT-5.2 まで: LLM の特殊トークン徹底解説【2025年12月最新】 🔖 496

エンジニアの又川です。 皆さんは LLM (大規模言語モデル) の 「特殊トークン」 をご存知でしょうか？ ChatGPT や Claude などを使っていると意識することは少ないかもしれませんが、実はモデルの内部では 「ここからユーザの発話だよ」「ここで思考を始めるよ」 といっ

LLMはバンディット問題を解けるか 🔖 1

この記事は、CyberAgent Developers Advent Calendar 2025   ...

LLMのCUDAカーネルを自作しよう! 🔖 25

本記事は、LLM・LLM活用 Advent Calendar 2025 21日目の記事です。 はじめに pytorchは、Meta社が開発した機械学習・深層学習のためのpythonライブラリです。ユーザーは、pytorchを使用することで、画像分類モデルや強化学習モデルをはじめと

LLMは人格を持つか？ペルソナ推定に関して 🔖 15

こんにちは。 InsightEdgeのShin Andrewです。 目次 はじめに 1. LLMにペルソナを持たせる 2. LLMにユーザのペルソナを推定させる まとめ この記事は、Insight Edge Advent Calendar 2025 23日目の記事です。 はじめに

LLMに時間変換を任せてはいけない：Findy AI+の開発で学んだ反省と改善策 🔖 1

こんにちは。 ファインディ株式会社でFindy AI+の開発をしているdanです。 今回は、プロンプトにどのようなデータや指示内容を与えるとLLMが誤った出力をしやすいのかについてお話しします。 プロンプトには何を書くべきで、何を書かないべきなのか。また、LLMに渡すデータはどの

高木浩光＠自宅の日記 - 生成AIと処遇AIの混同について、まだ言いたいことがある──LLMは処遇AIを救うかもしれない 🔖 48

前回（12月16日）、「知財検討会のプリンシプルコード（仮称）（案）」をきっかけに、生成AIと処遇AIの混同について書いた。その後いくつか反応をもらったので、続きを書く。 前回のおさらい 前回の要点はこうだ。2022年までに作られたAI原則やガイドラインは、主に「処遇AI」（人を

NVFP4: 4ビットの浮動小数点でLLMを学習する仕組み 🔖 13

こんにちは、AI・機械学習チームの髙橋です。 この記事はエムスリー Advent Calendar 2025 22日目の記事です。前日は同じAI・機械学習チームの鴨田さんによる LLMによって非定形の会話ログを価値あるFAQデータにする話 - エムスリーテックブログでした。 迎賓

VSCode（Codex）からローカルLLM（Ollama）に接続して動かしてみた話 🔖 2

SageMakerでvLLMを動かそう 🔖 2

Amazon SageMaker と vLLM を組み合わせて、高速な LLM 推論基盤を構築する方法を解説します。AWS の LMI（Large Model Inference）コンテナを活用し、AsyncLLMEngine による非同期処理、Continuous Batchi

Claude Code 探訪:　LLM と共に働く中で見えてきた『与ストレス度』という仮指標 🔖 1

!本記事は READYFOR 株式会社の READYFOR Advent Calendar 2025 の 22日目 です。※ 本記事の内容は所属会社の公式発表・見解を示すものではありません。 はじめに前回、約3ヶ月前の2025/09/11 に Opus 4 と So

ローカル実行の常識！ LLM 量子化 ( Quantization ) の仕組みと手法を完全理解する 🔖 41

製造業特化LLMを開発するための評価ベンチマーク 🔖 1

本記事は CADDi Tech/Product Advent Calendar 2025 22日目の記事です。 こんにちは、Data & Analysis部で機械学習エンジニアをしている由川です。 私は、製造業特化LLMを開発するための評価ベンチマークづくりに取り組んでいます。本

LLMにスライドと図を作ってもらう 🔖 2

＼スニダンを開発しているSODA inc.の Advent Calendar 2025 22日目の記事です!!!／ はじめにテキストベースのツールを使えば、LLMにスライド作ってもらうことができます。この記事では、Markdownからスライドを作成するMarpとXMLで図

LLM-as-a-Judge とルーブリック評価 🔖 28

この記事について 本記事は Ubie Tech Advent Calendar 2025 19 日目の記事です！ LLM を活用したプロダクト開発において、「生成結果の品質をどう評価するか」は常に大きな課題です。 モデルの更新、プロンプトの改善、RAG の検索精度の向上など、あら

LLMによって非定形の会話ログを価値あるFAQデータにする話 🔖 1

AI・機械学習チームの鴨田です。 この記事はエムスリー Advent Calendar 2025の21日目の記事です。 20日目は星川さんのSlackワークフロー使いこなせてる？進化したトリガーとリストで実現するハックでした。 サムネ TL;DR 問い合わせログからFAQ記事を自

2025 LLM Year in Review 🔖 30

医療業界で突然LLMを使ってくれと言われたら 🔖 83

はじめに 「うちの病院でも生成AIを活用したい」 「電子カルテの要約をAIでできないか」 医療機関のDX推進担当者や、外部のシステム開発者がこのような相談を受けることが増えています。しかし医療分野でLLMを活用する場合、一般的なWebサービスとは異なる厳格なデータの要件があります

ノートPCで動くローカルLLM完全ガイド【2025年12月版】 🔖 15

医療業界で突然LLMを使ってくれと言われたら 🔖 83

はじめに「うちの病院でも生成AIを活用したい」「電子カルテの要約をAIでできないか」医療機関のDX推進担当者や、外部のシステム開発者がこのような相談を受けることが増えています。しかし医療分野でLLMを活用する場合、一般的なWebサービスとは異なる厳格なデータの要件があります

LLM-as-a-Judge とルーブリック評価 🔖 28

この記事について本記事は Ubie Tech Advent Calendar 2025 19 日目の記事です！https://adventar.org/calendars/12070LLM を活用したプロダクト開発において、「生成結果の品質をどう評価するか」は常に大きな課題

LLM-as-a-Judge とルーブリック評価 🔖 28

この記事について本記事は Ubie Tech Advent Calendar 2025 19 日目の記事です！https://adventar.org/calendars/12070LLM を活用したプロダクト開発において、「生成結果の品質をどう評価するか」は常に大きな課題

LLM-as-a-Judge とルーブリック評価 🔖 28

この記事について本記事は Ubie Tech Advent Calendar 2025 19 日目の記事です！https://adventar.org/calendars/12070LLM を活用したプロダクト開発において、「生成結果の品質をどう評価するか」は常に大きな課題

データドリブンでLLMの出力精度を改善した話 🔖 3

ウォンテッドリーでバックエンドエンジニアをしている冨永(@kou_tominaga)です。2025年11月に AI...

EVO-X2 + LemonadeServer + ContinueでローカルLLM環境を構築 🔖 1

はじめにこんにちは、anyのプロダクトチーム所属@310kaです。この記事は any Product Team Advent Calendar2025 18日目の記事になります。今回は、GMKtecのEVO-X2とLemonadeServer 9.1.0を使っ...

ロングコンテキストLLMの汚染された長文コンテキストへの耐性 🔖 3

ロングコンテキストLLMの評価タスクの検討の一環で、汚染された長文コンテキストへの耐性を評価するタスクの検証を行いました。

LLMを用いて長文ドキュメントを速く・安く・安全に構造化する試み 🔖 11

こんにちは。Ai Workforce事業部 FDEグループ エンジニアのkoseiと申します。 この記事はLayerX Tech Advent Calendar 2025 16日目の記事です。 本日は私たちの事業部が開発しているプロダクト「Ai Workforce」が扱うような長

月末の「請求書まだですか？」をゼロに。LLM×Slackで構築した、フリーランスに優しい請求書回収アシスタント 🔖 1

フリーランスへの請求書回収業務を、LLM活用Slack Botで効率化した事例です。勝手にリジェクトするのではなく、AIが形式不備をアシストして気づきを与えるUX設計がポイント。管理部の工数削減とパートナー体験向上を両立した内製ツールの裏側とについて紹介します。

Mac Studio M3 Ultra（96GBメモリ）でローカルLLMを動かす 🔖 11

AgentOps入門　〜LLM時代の新たな運用パラダイム〜 🔖 14

1. はじめにこんにちは、松尾研究所でデータサイエンティストをしている力岡です。本記事は、松尾研究所 Advent Calendar 2025 の記事になります。GPT や Gemini などの LLM を活用した AI エージェントは急速に普及し、複数ツールを組み合わせた複

AgentOps入門　〜LLM時代の新たな運用パラダイム〜 🔖 14

1. はじめにこんにちは、松尾研究所でデータサイエンティストをしている力岡です。本記事は、松尾研究所 Advent Calendar 2025 の記事になります。GPT や Gemini などの LLM を活用した AI エージェントは急速に普及し、複数ツールを組み合わせた複

LLMに易しいOpenStack MCPサーバーの作り方 🔖 5

この記事は、 NTT docomo Business Advent Calendar 2025 13日目の記事です。 OpenStackのAPIをModel Context Protocol(MCP)を使って操作できるようにし、Large Language Model(LLM)経

LLM学習における実験管理入門（W&B） 🔖 7

こんにちは。松尾研究所シニアデータサイエンティストの太田です。先日自己紹介にて「松尾研究所のPMは裁量を持たせてもらえる」「しかしそれがむずい」というお話をさせていただきましたが、ここでは僕が最初に携わったプロジェクトであるLLMの事後学習プロジェクトにおいて、どのように実験を

LLM学習における実験管理入門（W&B） 🔖 7

こんにちは。松尾研究所シニアデータサイエンティストの太田です。先日自己紹介にて「松尾研究所のPMは裁量を持たせてもらえる」「しかしそれがむずい」というお話をさせていただきましたが、ここでは僕が最初に携わったプロジェクトであるLLMの事後学習プロジェクトにおいて、どのように実験を

LLMに「謎解き」はできるのか？ 🔖 2

LLMに「謎解き」はできるのか？ ABEJAでデータサイエンス部のグループマネージャをしている中西 @cfiken です。本記事はABEJAアドベントカレンダー2025の13日目の記事です。 はじめに 謎解きの難しさ 検証のセットアップ 1. データセット：自作謎解きベンチマーク

Mini PC + 外付けGPUでローカルLLM環境を作った話 🔖 58

2025 アドベントカレンダーの記事です！ 弊社シーエー・アドバンスでは、AIの活用を徹底するように号令がかかっています。 今回は、Local LLM を自宅で動かしてみたので、それについて記事をまとめます。 自宅で、Ollama を使って、LLMを動かしたりしたいと思っている方

LLMに現在のUIを理解させつつUIを実装させる | ドクセル 🔖 31

LLMにやさしい言語SuiはLLMにやさしくなさそう - きしだのHatena 🔖 65

LLMにやさしい言語という謳い文句の言語、Suiが話題。 けどこれ、LLMにあまりやさしくなんじゃなかろうか。 https://github.com/TakatoHonda/sui-lang 以前にこういうエントリを書いてます。 AI専用のプログラミング言語は現れない - きしだ

The Rise of Western OS AI ー欧米のLLM事情に関する考察ー 🔖 1

松尾研究所シニアデータサイエンティストの太田です。先日AIの年末最大の式典とされるNeurIPSが終わりました。欧米で最も注目を浴びるこのカンファは、アカデミックだけでなくスタートアップ始めとした企業にとっても注目の場であり、この時期に大きなアナウンスメントをする企業が多々ありま

Terraformによるバッチ定義の定型作業をLLMエージェントで効率化する試み 🔖 12

こんにちは！ニーリーで SRE をしています 高 (@nogtk) です。 ニーリーでも LLM を活用した業務や開発効率の改善が日々あちこちで行われているのですが、そんな事例の1つをご紹介できればと思います。 この記事は ニーリーアドベントカレンダー 12日目です 🎉 バッチの

人間は読めなくて結構。LLMのための超正確なプログラミング言語「Sui」 🔖 55