так в MathLab или в MatchCad определись уже)
Ну, во-первых, должно быть двойное суммирование по i-ой и j-ой переменных, нужно задать для каждого массив. Во-вторых, матрица y0, которую ты задал никакам боком не фигурирует в выражении. Опять же, допустим если ты вместь Yij хочешь поставить, то размерности  должны быть корректны, надеюсь правила перемножения матриц знаешь. Но вообще, в этой записи нет никакой корреляции, хз че ты хочешь посчитать