Приведу несколько другое объяснение (результат тот же, но рассуждения понятней).

Первый ход:
Вероятность попасть - А%
Вероятность промахнуться - В%

Второй ход:
Если за первый ход было попадание, то во втором ходу будет либо А% попадание, либо В% промах.
Если за первый ход был промах, то во втором ходу будет 100% попадание.

В результате за два хода есть три возможные комбинации:
Попал - Попал
Попал - Промахнулся
Промахнулся - Попал.

Считаем вероятности (чтобы понимать откуда берется умножение, читаем здесь: http://edu.ioffe.ru/register/?doc=efros/2.tex или смотрим гугл):
Попал - Попал: А%*А%
Попал - Промахнулся: А%*В%
Промахнулся - Попал: В%*100%
Сумма вероятностей должна быть 1. Если учесть условие, что А% + В% = 1, то А%*А% + А%*В% + В% = 1 (всегда).

Считаем количество попаданий за два хода:
Попал - Попал: 2
Попал - Промахнулся: 1
Промахнулся - Попал: 1
Считаем среднее (точнее это называется математическое ожидание, читаем здесь:http://www.cultinfo.ru/fulltext/1/001/008/074/335.htm):
2*А%*А% + 1*А%*В% + 1*В%

Нужно чтобы за два хода среднее количество попаданий было X% (например, 80%). Так как ходов было два, то среднее количество попаданий будет 2*X%. Приравниваем математическое ожидание и нужное среднее количество попаданий:
2*А%*А% + А%*В% + В% = 2*X%
Не забываем, что А% + В% = 1
Решая эту систему получаем: А% = КОРЕНЬ (2*X% - 1); В% = 1 - А%
Чтобы получить в среднем 80% попаданий, нужно чтобы А% было 77,45%.

В целом же этот алгоритм расчета работает для двух ходов. Для 12 ходов это некое приближение. Соответственно возникают погрешности 1 - 2%, если X% лежит в диапазоне 80% - 99%. В принципе на это можно не обращать внимание.