بردارها و ماتریس‌ها؛ زبان پایه بسیاری از مدل‌های AI

بردار را می‌توان هم مجموعه‌ای مرتب از اعداد و هم یک شیء هندسی دانست. در یادگیری ماشین، بردار معمولاً نمایش عددی یک نمونه، ویژگی‌ها یا embedding است.

ماتریس یک تبدیل خطی روی بردار انجام می‌دهد. در یک لایه ساده شبکه عصبی، این تبدیل با یک bias جابه‌جا می‌شود.

مثلاً اگر W=[ [2,1],[-1,3] ] و x=[1,2] باشد، حاصل ضرب برابر [4,5] است.

Projectionها، embeddingها و بسیاری از عملیات داخل شبکه‌های عصبی با ضرب ماتریسی بیان می‌شوند. قبل از attention و backpropagation باید بتوانیم این محاسبات را هم از نظر عددی و هم از نظر هندسی بخوانیم.

• اثر یک ماتریس 2×2 را روی سه بردار مختلف محاسبه کنید.
• توضیح دهید چرا ترتیب ضرب دو ماتریس مهم است.
• برای W=I نتیجه W x را بررسی کنید.