TL;DR ベクトル検索だと、複数のステップを踏まないと答えられない質問の検索がむずい 「TomにEmil Eifrém（Neo4jのCEO）を紹介してくれる人は？」とかを検索むずい ナレッジグラフは構造化データと非構造化データをうまく扱えてベクトル検索の苦手を補える 課題はあるけどナレッジグラフは、Neo４jとLangchainで構築できるよ。 はじめに 今回はベクトル検索の苦手分野をどうしても補ってあげたいとおもっている筆者やまぐちが、ベクトル検索の苦手を補ってあげられるナレッジグラフに関してまとめていこうと思います。 少々長い記事ですが、ベクトル検索を労ってあげたいと思っている方はぜひ読んでください。 ベクトル検索の限界 以前の記事の最後にも少しだけ記載しましたが、ベクトル検索は以下の問題点があります。 必要な情報がTop Kのドキュメントには含まれていない可能性がある。 チャンクの
はじめに ChatGPT が登場してから、様々な大規模言語モデル（LLM）が出てきています。プロンプトエンジニアリング、という言葉も割と浸透してきたなという印象があります。 このプロンプト、というのが意外と厄介で、使用する LLM に応じてお作法が違いますし、LLM が期待する書き方をしないと LLM のポテンシャルを引き出すことができなかったりします。 本記事では、AWS の生成系 AI サービスである Amazon Bedrock から使える Anthropic 社の Claude のプロンプトデザインドキュメントをちゃんと読んでみようと思います。 英語のドキュメントなので英語のプロンプトに関する内容となりますが、きっと日本語でも有用な内容であると信じて、この記事ではプロンプトを日本語にして Claude に回答させています。 注：本記事の実験は Amazon Bedrock の Cl
はじめに 前回 に続いて、今回も Anthropic 社のプロンプトガイドを見ていきます。 今回は USEFUL HACKS というなんかワクワクする章をしっかり読みます。書かれていることを意訳しつつ、日本語で実験しながら進めます。 注：本記事の実験は Amazon Bedrock の Claude v2 を使って行いました。 USEFUL HACKS ではドキュメントを見ていきましょう！ ハルシネーションを防ぐために「わかりません」と Claude に言わせる 学習データにない知識が必要な質問に回答させようとすると、LLM は話をでっち上げることがあります。これがいわゆるハルシネーション（幻覚）と呼ばれるものですが、大抵の場合話をでっち上げるよりも、知らないものは知らないと回答して欲しいのではないでしょうか。 以下に、よくないプロンプトの例を示します。
AttentionViz: A Global View of Transformer Attention arxiv.org Yeh, Catherine, Yida Chen, Aoyu Wu, Cynthia Chen, Fernanda Viégas, and Martin Wattenberg. "AttentionViz: A Global View of Transformer Attention." arXiv preprint arXiv:2305.03210 (2023). ©2023 The Authors License: Creative Commons Attribution 4.0 International License(CC-BY) 本記事は、原著の内容に基づき筆者が要約または翻訳したものです。以下の図は、そこから引用しています。 This article
ChatGPTやBing Chatの背景にある大規模言語モデルの多くは、Googleが開発したニューラルネットワークアーキテクチャーの「Transformer」を採用しています。このTransformerの鍵になるのが「Self-Attention」というシステムです。このSelf-Attentionを視覚化するためのツール「Attention Viz」を、ハーバード大学とGoogleの共同研究チームが発表しました。 AttentionViz Docs https://catherinesyeh.github.io/attn-docs/ Transformerがどういう仕組みのアーキテクチャなのかについては、以下の記事を読むとよくわかります。 ChatGPTにも使われる機械学習モデル「Transformer」が自然な文章を生成する仕組みとは？ - GIGAZINE 自然言語処理をディープラ
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめ 前回はベクトル検索について詳しく解説しました。今回は最近話題になっているRAGについて、業務で実際に構築した例をベースにお話出来れば、と思います。 前回の記事: 本記事では、RAGについての軽い解説と実践について、ChatBotのAWS上でのアーキテクチャ例の紹介と一部実装例を紹介します。 検索拡張生成（RAG）について 大まかに以下のようなアーキテクチャを取るシステムです。 図１．RAGのアーキテクチャ RAG（Retrieval-Augmented Generation）は、検索機能とテキスト生成を組み合わせた技術です。和訳
出オチです。（タイトル先行で始める技術ブログがあってもいいじゃない） 先にデモを提示します。 自由に使っていただいて構いません。（びっくりする課金が来たら、止めますw） ここのところ、簡単に構築できる生成AIアプリづくりが個人的ブームになってます。Qiitaをナレッジの情報源としたRAGを作ってみましたので、作り方を解説します。 使用するもの 生成AI：Amazon Bedrock (Claude 3 Haiku) ドキュメント取得：Google検索 画面UI：Streamlit 処理の流れ 先日投稿した記事と同様、以下の流れを行います。 検索クエリ生成 検索 回答生成 プロンプトはClaudeの開発元のAnthripicが公開しているクックブックを参考にしました。 解説 1. 検索クエリ生成 ユーザーの質問文をもとに検索クエリを生成します。Amazon BedrockのClaude 3
本記事は フューチャー Advent Calendar 2023 18日目の記事です。 昨日は、@RuyPKG さんの「asdf で開発言語と利用ツールのバージョン管理」でした。 はじめに 近年ChatGPTやStable Diffusionなど、生成AIが脚光を浴びています。これらはディープラーニングという機械学習アルゴリズムが用いられており、その計算のためにGPUが広く使われています。本記事ではGPUがディープラーニングで用いられる理由を解説します。 ディープラーニングでGPUが重宝される理由を理解するにはGPUの仕組みとディープラニングのアルゴリズムを簡単に理解する必要があるため、順に説明します。 GPUとは GPUとは並列計算を得意とするプロセッサで。映像出力を主な役割としてPCに取り付けられることが多いです。通常はグラフィックボードという基盤の上に取り付けられています。グラフィッ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く