Esto es un simple problema de combinatoria que puedes resolver en 3 fases. Sin entrar en asuntos de programación, sólo usando matemáticas deberías conocer como aplicarlo...
1 -A - Dados dos grupos de 4 elementos, hallar cuantas combinaciones de 3 elementos pueden formarse.
Este es el problema base, luego al resultado hay que restarle las combinaciones que se forman cuando los 3 elementos son de un único grupo, excepto que aparezca en ambos grupos.
2 - B - Esto es, hallar cuantas combinaciones de 3 elementos (incluso con repetición) puede formarse en ambos grupos.
3 - C - Hallar cuantas de las combinaciones de B, sin repeticion de elementos, tienen 1 elemento que pertenece a ambos grupos.
El resultado será la suma de = A - B + C.
Si el algoritmo es matemático son 3 fórmulas, si no, todavía puedes resolverlo por programación a base de bucles y condicionales aunque el código será menos óptimo.