BERT や GPT の登場により、テキストを扱うモデルは大きく発展しましたが、否定というごくありふれた操作を扱うのが依然難しいです。 本稿では、その理由と、部分的な解決策を紹介します。 目次 目次 否定文を理解できないAIたち 否定文を理解できずに困ること なぜ否定文をうまく扱えないのか なぜたまに成功するのか 対処法 ファインチューニング プロンプトの工夫 否定文を意識した訓練 文書数を増やす クエリとキーを拡張する おわりに 否定文を理解できないAIたち BERT (tohoku-nlp/bert-base-japanese-v3) で A =「私はお寿司が好きです。」 B =「私の好きな食べ物はお寿司です。」 のテキスト埋め込みのコサイン類似度を求めてみましょう。A と B は同じようなことを言っており、予想されるようにコサイン類似度は 0.9695 と高いです。 では、 A =「
みなさんお元気ですか？僕は少しだけ元気ではありません。じんわりとした夏の暑さを感じながらブログを書いています。 実は、数ヶ月前にスマートニュースという会社を退職しました。 しばらく無職 しばらくは就職せずに無職でいようかなと思っています。 すぐに再就職した方がいいんだろうな〜。とは思うのですが少し疲れたかも。 いい時代になったものだ 最近は AI の進化も素晴らしく、昔ソフトウェアで出来なかったことがどんどんできるようになってるなって感じます。 Rust とか、ちょうど欲しかった感じのプログラミング言語もあるし、 ChatGPT は完璧ではないけど何か新しいことを始めるときに素晴らしい洞察を与えてくれる。 時代は確実に良くなってる。そんな時代に「自分は働いていないくていいのか」と少し不安になるけれど、自由気ままにコードを書く、そんな時間が今あってのもいいのかなって思ってます。 オフトピック
先日、ツイッターで「プロ驚き屋」（または「驚き屋」）という今年生まれたばかりの超ニッチなスラングの意味を英語で紹介したところ、想定外に結構反響があったので（以下ツイート）、この記事でその意味や英訳を解説しようと思います。 プロ驚き屋 (“a professional surprised man”, New Slang) = a person who excitedly shares state-of-the-art tools/technologies like ChatGPT on social media with hyperbole like 神/最強/ヤバすぎ, as well as with hallucination/overstatement at times based on a few cherry-picked examples — Takashi’s Japanese
まず少し、DeepLの歴史をおさらいしておこう。 DeepLは翻訳サービス｢DeepL翻訳｣を提供するドイツの企業だ。本社はケルンにある。2017年にサービスを開始して以来、世界中で使われるサービスに成長した。特に、2020年に日本語に対応してからは、日本で広く使われるサービスともなっている。 ※社名は当初の｢Linguee｣から、2017年に現在の｢DeepL｣へと変更している。 自動翻訳には多くのライバル企業がいる。グーグルなどの大手企業は長く、無料で翻訳サービスを提供してきた。 だがDeepLが登場し、日本語対応が発表されると、国内でも話題になりはじめた。その理由はやはり｢品質｣だ。 ｢翻訳の品質と正確さがあってのことだと思います。使い続けるうちに、『これなら相手に通じる』と自信が持てるようになるので、ツールをより信頼してもらえるようになります。 DeepLでは早期から、そうした信頼
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く