Es una operación sencilla, se trata de una resta pixel a pixel, la intención es comparar dos imágenes, si son iguales, el resultado de la resta debiera ser 0 para cada pixel en ella, si no lo es en algún pixel, entonces hay una diferencia entre las imágenes.
En MATLAB, las imágenes se representan como matrices, para las cuales ya están implementadas las las operaciones aritméticas básicas, por lo tanto, la operación de diferencia sería simplemente: