Esto es un simple problema de combinatoria que puedes resolver en 3 fases. Sin entrar en asuntos de programación, sólo usando matemáticas deberías conocer como aplicarlo...
1 -A -  Dados dos grupos de 4 elementos, hallar cuantas combinaciones de 3 elementos pueden formarse. 
Este es el problema base, luego al resultado hay que restarle las combinaciones que se forman cuando los 3 elementos son de un único grupo, excepto que aparezca en ambos grupos. 
2 - B -  Esto es, hallar cuantas combinaciones de 3 elementos (incluso con repetición) puede formarse en ambos grupos.
3 - C - Hallar cuantas de las combinaciones de B, sin repeticion de elementos, tienen 1 elemento que pertenece a ambos grupos.
El resultado será la suma de = A - B + C.
Si el algoritmo es matemático son 3 fórmulas, si no, todavía puedes  resolverlo por programación a base de bucles y condicionales aunque el código será menos óptimo.